脳で制御するロボットが赤ん坊を落としたら誰の責任？--科学者ら、法整備を求める

　バイオテクノロジや、Elon Musk氏の設立したNeurolinkが手がけているようなブレイン・マシン・インターフェース（BMI）を利用したコンピューティングが進歩すれば、そのうち人間の脳とコンピュータを接続するのが一般的になるのかもしれない。では攻撃者がこうしたデバイスをハッキングして他人やデバイスの装着者自身を傷つけることを、どうすれば防止できるだろうか。

　責任という問題もある。スイスのジュネーブに拠点を置くWyss Center for Bio and Neuroengineeringの科学者らは「脳で制御するロボットが赤ん坊を落としてしまったら誰に責任があるのか」と問いかけている。

提供：HACK_CG, Getty Images/iStockphoto

　現在BMIコンピューティングは麻痺症状のある患者を支援するために利用されているが、この科学者たちは、健常者がBMIで自らを強化する日が来ることについて懸念している。

　学術誌「Science」に「Help, hope, and hype: Ethical dimensions of neuroprosthetics」（介助、希望、欺瞞：神経機能代替の倫理的側面）と題した論文を発表した科学者たちは、BMIの安全性を確実なものにするための新しいガイドラインを求めている。

　論文の共同執筆者でWyss Centerのディレクターを務めるJohn Donoghue教授は、「われわれはリスクを誇張したいわけでも、神経技術によって恩恵を受けられる人々に誤った希望を持たせたいわけでもない。われわれの目的は、この急速に発展する分野と歩調を合わせて、適切な法整備が確実に行われるようにすることだ」と述べている。

「それはロボットがしたことです」は認められる？--AIと法律の専門家に聞く

　自動運転車と人工知能（AI）のような技術と共に、BMIと半自律ロボットの将来は、説明責任、責任、プライバシー、セキュリティをめぐる倫理的な疑問を提起する。

　半自律ロボットには、BMIのバグを無効化（オーバーライド）するキルスイッチを搭載すべきだと科学者らは主張している。半自律ロボットに信頼できる制御機構もしくはオーバーライド機構が備わっていなければ、そのようなロボットを赤ん坊を抱き上げるためには使い、それよりもリスクの低い行動に使わない人は、不注意とみなされるだろうという。

　また、脳からのアウトプットデータのセキュリティについても、暗号化によって保護されるべきと懸念を示し、「ブレインジャック」、すなわち悪意をもって脳のインプラントを不正に操作する行為に関しても懸念を表明している。権力者や価値の高い知的財産の所有者は、脳から読み出せる情報を狙った攻撃を受けるリスクが高いかもしれない。

　オックスフォード大学ナフィールド外科学部の博士号取得候補者Laurie Pycroft氏は、先ごろ発表した論文の中でブレインジャックについて懸念を表明し、攻撃者が脳インプラント用のバッテリを消耗させたり、それらのバッテリを使って痛みを誘発し、感情に手を加えたり、または細胞組織を破壊したりする可能性に目を向けた。

　Wyss CenterのシニアリサーチフェローであるNiels Birbaumer教授は、麻痺症状のある人に利用されるBMIデータには、個人的な質問に対する反応など、扱いに注意を要する神経細胞データが含まれると指摘している。

　「関係者全員に厳格なデータ保護を適用する必要がある。これには、デバイスを正しく機能させるための神経細胞データを保護するだけでなく、質問の中で得た個人情報を保護することも含まれる」（Birbaumer教授）