Instagramが計画中とされる検出機能、AIインフルエンサーの特定にも役立つか？

　Instagramが、投稿の一部またはすべてが人工知能（AI）によって作成されたことをユーザーに知らせる機能に取り組んでいる模様だ。アプリ開発者のAlessandro Paluzzi氏の投稿によれば、AIによって作成された投稿には、その投稿の作成にAIが関与したことを示すラベルが追加されるようだ。

提供：NurPhoto/Contributor/Getty Images

　しかし、アカウント自体が生成AIによって作成されている場合でも、このラベルは役立つのだろうか。

　Instagramには、合わせて340万人超のフォロワーを抱え、ブランド各社と高額の契約を結んでいる3人の人気インフルエンサーがいる。だが、この3人（Lil Miquela、Imma、Shudu）はすべてAIが生み出した人物で、これらのアカウントに投稿されている写真はAIによって作成されたものだ。

　3人はいずれも刺激的な毎日を過ごし、Dior、Calvin Klein、Chanel、Pradaといったブランドと提携している。3人のプロフィール欄には、表現こそ異なるものの、「デジタルペルソナ」であることを示すフレーズが使われており、彼女らの写真はどれも「不気味の谷」を感じさせる。それでも、コメントを残しているユーザーやフォロワーの多くは、これらのAIインフルエンサーが実在の人物だと信じている。

　しかし、これらのデジタルインフルエンサーは、実際にはテクノロジー企業が作りだした架空の存在で、グラフィックデザイナーやデジタルアーティストが、AIの力を借りてインフルエンサーのイメージを創り上げたものだ。

　デジタルインフルエンサーはブランドやマーケティング企業にとって、出張費を削減し、言語の壁を取り払うとともに、どのようなブランドにも合うよう、あっという間に見た目を変える能力を備えているという点で、魅力的な存在となっている。

　そしてより重要な点として、デジタルインフルエンサーはブランドを傷つける恐れがない。意見や政治的価値観を持たず、炎上しそうなツイートなど10年前にさかのぼっても存在しない。つまり、ブランドの品位を落とすような行動を取り得ないということだ。

　さらに、デジタルインフルエンサーは年を取らないし、ブランドの価値にそぐわないような見た目になることもない。例えば、Lil Miquelaは2016年にInstagramのアカウントを作成して以来、ずっと19歳のままだ。彼女はそれ以来、セレブとコラボしたり、雑誌の表紙を飾ったり、多額の売り上げに貢献している。

　しかし、Lil Miquelaの投稿を手早くスクロールした場合、彼女がAIによって生成された存在だとすぐに気付けるユーザーはどれだけいるだろうか。そう多くはないと専門家らは述べている。特に若者は感化されやすく、目にするオンラインコンテンツによって自分自身や周囲の世界に関する見方を築き上げていく。

　また、デジタルインフルエンサーは完璧な見た目を備え、常に理想的な生活を送っているように見せかけることができる。このためティーンエイジャーは、ソーシャルメディアの画面をスクロールしていくうちに、プレッシャーや不安感を抱くようになりかねない。

　では、Lil MiquelaがAIによって生み出されたインフルエンサーだと「暴き出す」責任はInstagramにあるのか、彼女の「オーナー」にあるのか、それともInstagramのユーザー自らが消費するコンテンツの判断能力を高めていくべきなのだろうか。一部の米議員は、大手AI企業により厳しい基準を強制する機関を新設すべきだと主張している。

　大手IT企業はそういった規制によってイノベーションが阻害されかねないとする一方、多くのユーザーはその種の責任がIT企業やソーシャルメディア企業にあると考えている。

　AI生成コンテンツのラベルを付与しようとする今回の取り組みは、ユーザーが目にするコンテンツの理解を深めるのを支援するという点で、同社初の試みではない。新型コロナウイルスのパンデミックという混乱のさなかの2020年、Instagramはワクチンに関する誤った情報を拡散しようとするハッシュタグをブロックするとともに、新型コロナウイルスとそのワクチンに関する信頼できる情報をユーザーに提供した。

　しかし、生成型AIが使われているという情報の提供は、英国の国民保健サービス（NHS）や米国の疾病予防管理センター（CDC）へのリンクを提供するような簡単な話ではない。AIは検知や阻止がより難しく、テクノロジー企業は生成AIによる偽情報がもたらす危険性に対処しなければならない。