顔変換アプリの「FaceApp」が、「HOT」というフィルタで肌の色が白くなるようにしたために、この種のフィルタをめぐる人種差別騒動の新たな一例となった。
FaceAppはここ数週間、ユーザーたちがこの写真編集ツールで変換した自分の顔写真を投稿し始めたことから、人気を集めている。このアプリを使うと、しかめっ面の写真を、米国人プロレスラーのジ・アンダーテイカーのような不敵な笑みに変えることもできる。
Just learned the best thing to do in this app is make Undertaker smile pic.twitter.com/a8FRW15QFV
— Big Money Ribera (@TheEricTables) 2017年4月15日
FaceAppで想定されている使い方は、ユーザーが顔を若く(または年寄りに)見せたり性別を入れ替えたりして、ふざけたり楽しんだりするというものだ。同アプリは人工知能(AI)を使い、写真に写っている顔のパーツを分析し、ユーザーが選択したフィルタで各パーツを変換する。
だが、その「HOT」(この場合は「魅力的な」の意)フィルタのせいで、このアプリはソーシャルメディア上で苦境に立たされることになった。被写体の外見を魅力的にするために、顔の肌色を文字通り白っぽくしてしまったためだ。
#faceapp is super racist. This is their "spark" aka "hot" filter. pic.twitter.com/LzkZT6aWwq
— Maureen Rose (@mo_hegs) 2017年4月25日
So this app is apparently racist as hell. But at least I'm sassy. #faceapp https://t.co/I0L4yWWXaV pic.twitter.com/v1ME8H8seP
— kung fu khary (@kharyrandolph) 2017年4月18日
アプリの開発元であるWireless Labの最高経営責任者(CEO)、Yaroslav Goncharov氏は、この機能の問題を謝罪した上で、その原因がニューラルネットワークにあると釈明した。AI設計の一部であるニューラルネットワークは、コンピュータが人間の頭脳により近い形で機能するよう支援する。
Goncharov氏は米CNETにメールで次のように回答した。「われわれは、この疑いようのない深刻な問題について深謝する。これは、基礎部分のニューラルネットワークにおいて、トレーニングセットの偏りにより生じた不適切な副作用であり、意図された振る舞いではない」。同氏はさらに、現在修正に取り組んでいるところだとしたうえで、このフィルタの名称を「HOT」から「SPARK」に変更すると説明した。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
地味ながら負荷の高い議事録作成作業に衝撃
使って納得「自動議事録作成マシン」の実力
先端分野に挑み続けるセックが語る
チャレンジする企業風土と人材のつくり方
すべての業務を革新する
NPUを搭載したレノボAIパソコンの実力