EU、AIめぐる初の規則案を発表--監視社会を防げないとの批判も

　欧州連合（EU）がついに、人工知能（AI）に関する規則案を発表した。これは、作家ジョージ・オーウェルが描いたディストピア社会をAI技術がもたらすのではないかという懸念を緩和するための、世界初の試みだ。EUの規則は、数年にわたる専門家らの助言を受けて作成されており、これまでに何度か草案が流出して、活動家団体からの多数の嘆願書や公開書簡が寄せられている。

提供：Getty Images/iStockphoto

　EUの欧州委員会は、EU圏内に導入されるかEU市民に影響を与える任意のAIシステムを対象に、官民両部門に適用される新しい法的枠組みを公表した。AIシステムに採用される技術が輸入されたものであるか、EU加盟国によって開発されたものであるかは問わない。

　この枠組みの中心にあるのは、4つのリスクレベルからなる階層構造だ。最上層は、欧州委が「許容できないリスク」と表現する、基本的人権を侵害するAI利用であり、禁止の対象となる。

　これには、ユーザーが自らに害を及ぼす恐れのある行動をとるように人間の行動を操作する自動化システムや、政府による国民のソーシャルスコアリングを可能にするシステムなどが含まれる。

　しかし、最大の注目を集めているのは、物議をかもしている顔認識の問題だ。顔認識技術は監視社会を可能にする恐れがあるとして、数年前から大いに論争を巻き起こしている。欧州委は、顔認識や、より広範囲にわたる生態認識システムの公共の場での利用、リアルタイムでの利用、法執行機関による利用の禁止を提案している。

　ただし、いくつかの例外がある。法執行機関はケースバイケースで、犯罪の被害者（行方不明の子供など）の捜索、テロ攻撃の防止、犯罪行為の実行者の検出を目的に、ライブの顔認識などの技術を活用した監視ができる。

　そのため、この規則は、大量監視のための顔認識の利用に対して多くの活動家団体が求めている全面禁止には及ばず、あまりにも範囲が狭く、あまりにも抜け穴が多いとして、この提案に対する批判は既に高まっている。

　人権団体European Digital Rights（EDRi）は、「この提案は、生体認証による監視社会を禁止するまでには至っていない」とツイートした。