顔変換アプリの「FaceApp」が、「HOT」というフィルタで肌の色が白くなるようにしたために、この種のフィルタをめぐる人種差別騒動の新たな一例となった。
FaceAppはここ数週間、ユーザーたちがこの写真編集ツールで変換した自分の顔写真を投稿し始めたことから、人気を集めている。このアプリを使うと、しかめっ面の写真を、米国人プロレスラーのジ・アンダーテイカーのような不敵な笑みに変えることもできる。
Just learned the best thing to do in this app is make Undertaker smile pic.twitter.com/a8FRW15QFV
— Big Money Ribera (@TheEricTables) 2017年4月15日
FaceAppで想定されている使い方は、ユーザーが顔を若く(または年寄りに)見せたり性別を入れ替えたりして、ふざけたり楽しんだりするというものだ。同アプリは人工知能(AI)を使い、写真に写っている顔のパーツを分析し、ユーザーが選択したフィルタで各パーツを変換する。
だが、その「HOT」(この場合は「魅力的な」の意)フィルタのせいで、このアプリはソーシャルメディア上で苦境に立たされることになった。被写体の外見を魅力的にするために、顔の肌色を文字通り白っぽくしてしまったためだ。
#faceapp is super racist. This is their "spark" aka "hot" filter. pic.twitter.com/LzkZT6aWwq
— Maureen Rose (@mo_hegs) 2017年4月25日
So this app is apparently racist as hell. But at least I'm sassy. #faceapp https://t.co/I0L4yWWXaV pic.twitter.com/v1ME8H8seP
— kung fu khary (@kharyrandolph) 2017年4月18日
アプリの開発元であるWireless Labの最高経営責任者(CEO)、Yaroslav Goncharov氏は、この機能の問題を謝罪した上で、その原因がニューラルネットワークにあると釈明した。AI設計の一部であるニューラルネットワークは、コンピュータが人間の頭脳により近い形で機能するよう支援する。
Goncharov氏は米CNETにメールで次のように回答した。「われわれは、この疑いようのない深刻な問題について深謝する。これは、基礎部分のニューラルネットワークにおいて、トレーニングセットの偏りにより生じた不適切な副作用であり、意図された振る舞いではない」。同氏はさらに、現在修正に取り組んでいるところだとしたうえで、このフィルタの名称を「HOT」から「SPARK」に変更すると説明した。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
ものづくりの革新と社会課題の解決
ニコンが描く「人と機械が共創する社会」
住環境に求められる「安心、安全、快適」
を可視化するための“ものさし”とは?
ZDNET×マイクロソフトが贈る特別企画
今、必要な戦略的セキュリティとガバナンス