AIの幻覚：その理由とコスト、そして軽減策

###

2024年5月20日、Tony Burgess

あらゆる業界のあらゆる種類の組織が、競うようにして AI の流行に乗ろうとしています。大規模言語モデル（LLM）を搭載したチャットボット、検索エンジン、顧客やユーザーなどと対話するためのツールなどが猛烈なスピードで導入されていますが、多くの場合、この非常に新しいテクノロジーに伴うさまざまなリスクにはあまり注意が払われていません。

バラクーダのソフトウェアエンジニアであるガブリエル・モスは、最近のブログ投稿で、攻撃者がどのようにしてデータポイズニングおよび操作テクニックを用いてLLMを破損し、その結果LLMの所有者に大きな損害を与える可能性があるかを詳細に説明しました。

この続きは以下をご覧ください
リンク