AIは権力を持たない人々に過剰な害をもたらす--Mozillaが警告

　人工知能（AI）は、資産家や権力者、そして利益の拡大を目指す巨大テクノロジー企業にとっては素晴らしいものだ。しかし、それ以外の人々にとって、AIやAIが実現する自動化は有害なものになる可能性がある。非営利団体のMozillaは、米国時間7月18日に公開したレポートでそのように結論づけた。

提供：Sarah Tew/CNET

　「現実世界では、グローバルな権力システムの恩恵を受けていない人ほど、AIの有害性がもたらす影響を何度も、かつ不釣り合いなほど大きく受けている」と、Mozillaの研究者は「Internet Health Report 2022」で述べた。「自動化が世界規模で急速に進む中、私たちが目にしているのは差別と監視という深刻な危険性だ。透明性や説明責任は欠如し、重大な結果をもたらす意思決定が自動化に依存し過ぎている」

　AIは実世界にある膨大な量の複雑なデータを使って訓練されたシステムで、これまで困難あるいは不可能だったコンピューティングタスクに革命をもたらしている。例えば、音声認識、金融詐欺の検出、自動運転車の操縦、鳴き声による鳥の識別、環境に優しいコンクリートの製造法の考案などだ。しかし、AIがテクノロジーの隅々にまで行き渡るにつれて、専門家らはその問題点についても懸念を示している。

　ウェブブラウザー「Firefox」の開発元であり、ウェブ上のプライバシーを擁護している非営利団体のMozillaも、批判の声を上げている組織の1つだ。MozillaはAIがもたらす問題として、次のような点を挙げている。

• インターネットフォーラムやフォトアーカイブなどから抽出されるデータに存在するバイアスのために、機械学習モデルが人種差別的あるいは性差別的な固定観念を再生産することが多い。
• ソーシャルメディアの投稿や商品などをレコメンドするアルゴリズムで個人データがどのように利用されているのかについて、大企業が透明性を確保していない。
• レコメンデーションシステムがプロパガンダやその他の有害コンテンツの表示に利用される可能性がある。YouTubeを対象としたMozillaの調査によれば、人々が視聴して後悔したと答えた動画の71％が、アルゴリズムによってレコメンドされたものだった。

　Mozillaはさまざまな提案をしているが、その1つが新たな法律の制定だ。「有害な影響を減らし、データプライバシーやユーザーの権利を守らせるイノベーションのガードレールを設定するのに、規制が役立つかもしれない」と、Mozillaは述べている。