logo

人工知能マシン、人間のしつこい質問にキレる--グーグルの実験より

Chris Matyszczyk (CNET News) 翻訳校正: 編集部2015年07月02日 10時00分
  • このエントリーをはてなブックマークに追加

 The Wall Street Journal(WSJ)の報道によると、Googleは、人間とコンピュータプログラムの対話について実験をいくつか実施したという。プログラムには映画の脚本に関するデータベースが与えられていた。

 対話は記録され、「A Neural Conversational Model」(ニューラル・カンバーセーショナル・モデル)と名付けられた論文(PDF)としてまとめられた。

 この対話の1つが傑出している。両者は、道徳観について話をしており、人間が人工知能に道徳観について話すことを強要している。

 人間が「道徳的に振る舞うにはどうすればよいか知る必要があるんだ」と言うと、機械は理解するものの「どのように説明すればよいか分からない」と答える。

 道徳と倫理が同じかと人間が質問すると、機械は、そうだと答える。しかし、道徳的行為の例を人間が質問すると、機械は「誠実さ」と答える。

 誠実さの定義について答えるよう求められると機械は「これ以外に何と言えばよいか分からない」と答える。

 事態は悪くなる一方だ。人間が「道徳的になれ!」と強く訴えると、機械は「人間らしくなれ!」と激しくやり返す。

 人間が「道徳観と倫理観に関するこの会話を本当に気に入っているよ」と言うと、機械は「哲学的な議論をしたい気分ではない」と答える。

 そして、会話は次のようにして終わっている。

 「何について話がしたいか?」と人間が聞くと、機械は次のように応じた。

 「なにも」

この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。

-PR-企画特集