AI開発に求められる公平性と責任--グーグルの取り組み

　人工知能（AI）は、企業や社会全体に好ましい変化をもたらすと大々的に売り込まれているが、AIの利点を本当に活用するためには、いくつかの重要な課題を解決する必要がある。

　Googleの研究部門のシニアフェローであるJeffrey Dean氏によると、第1に、機械学習の専門知識に簡単にアクセスできるようにする必要があり、第2に、AIの進歩と並行して、「公平かつ責任のある」開発を社会で行う必要があるという。

　Googleは従業員に機械学習のスキルセットを習得させるため、社内講座を提供してきた。そうした取り組みのおかげで、同社は機械学習のトレーニングを受けた従業員数を2012年の1000人以下から、今日の1万8000人以上まで増やすことができた、とDean氏は日本で開催されたメディア向けイベントで述べている。

　同氏によると、Googleは現在、同社の機械学習に関するオンラインの短期集中講座を2018年初頭に無料で一般提供することを計画しているという。

　Dean氏は、公平かつ責任のある開発の必要性について、AIモデルの訓練で必要とされたデータが、必ずしも社会が望む世界ではなく、ありのままの世界を反映していたときがあった、と指摘する。

　これに関しては、変化を生み出す取り組みの一環として、Googleがさまざまなイニシアチブに関与してきたことに同氏は言及している。その一例が、メディアにおける性差別に注目したGeena Davis Inclusion Quotient（Geena Davis包括指数：GD-IQ）だ。ハリウッド女優のGeena Davis氏は、映画業界に好ましい変化をもたらすことを願い、映画に関するデータを収集し分析する研究所を立ち上げた。

　しかし、性別に特有のパターンを記録するため、何年分もの映画を1本ずつ調べていく作業は、研究者がうんざりするようなものだった。GD-IQイニシアチブでは、映画の登場人物の性別、その人物が話した時間、その人物が画面に登場した時間を自動的に特定するツールが開発された。このツールによって、人間なら測定するのに何カ月もかかるデータを短時間で処理し、そのデータをリアルタイムで定量化することが可能になった。

　その結果、Davis氏のチームは米国の興行収入トップ100の実写映画を分析し、男性の登場時間と発話時間が女性の2倍近くであることを明らかにした。女性が主役を務める映画の方が興行成績が良く、男性が主役を務める映画より16％以上多い収入を記録しているにもかかわらずだ。

　Davis氏は、そのデータが、無意識によるバイアスをあらわにし、そうした偏りがあることを人々に納得させるのに役立つだろうと考えている。それによって、この問題を解決するために何かができるかもしれない。