Twitter、「画像トリミングのアルゴリズムが白人を優先」との調査結果

　Twitterは、同社の画像トリミングアルゴリズムが人種的にどの程度偏っているかを数値化し、トリミングの際に白人が黒人よりも優先されていたことを認めた。

　Twitterは社内調査で、同社の画像トリミングアルゴリズムを人種や性別による偏りの観点からテストした。

　顕著性アプローチを採用する画像トリミングアルゴリズムを検証したところ、黒人と白人の比較で、人口統計学的均衡から4％の差で白人に有利なことが判明した。黒人女性と白人女性の比較では7％の差で白人女性が有利だった。黒人男性と白人男性の比較では2％の差で白人男性が有利だった。

　Twitterは2018年、画像のトリミングに顕著性アプローチを採用した。

　顕著性アルゴリズムの仕組みは、人が写真の中で最初に見たいと思うものを推定し、システムがどの部分を切り抜いて画像を見やすいサイズにするかを決定するというものだ。この種のモデルは、多くの人にとって最も重要である可能性が高いものを優先する手法として、人間の目がどのように写真を見ているかを学習するようトレーニングされる。Twitterは、複数の人物が写っている画像では往々にして「理想的な」解決策がないので、この手法がうまくいかないこともあるとしている。

　Twitterはジェンダーに関しても、アルゴリズムが画像をトリミングする際にどう判断するかを調べた。男性と女性の比較では、人口統計学的均衡から8％の差で女性に有利だった。

　今回の調査結果は、Twitterのプレビュー画像のトリミングツールについて2020年に寄せられた抗議に回答したものだ。このツールは画像に黒人と白人が存在している場合、自動的に白人を中心にトリミングしていると考えられていた。 

　Twitterはこうした人種的バイアスがあることを認め、画像のトリミングはアルゴリズムで処理されるべきではなく、人がしてこそうまくいくものだと結論付けた。

　Twitterのソフトウェアエンジニアリングのディレクターを務めるRumman Chowdhury氏は19日、「仮に顕著性アルゴリズムが人種や性別上の分類に対して完全に公平になったとしても、ユーザーがTwitter上で自分を示そうとした際に、自動化されたアルゴリズムによってそれができなくなるといった被害が生じることを懸念している」と述べた。

　「顕著性（を用いる手法）が、今回の調査では扱われていない他の問題を有している可能性もある。例えば文化的なニュアンスに対する無理解などだ」（同氏）

　Twitterによると、これらの調査結果は、5月上旬に画像の表示の仕方を変更するという決定につながったという。現在、「iOS」版と「Android」版のアプリでは、タイムラインに画像全体が表示されるようになっている。