「アダルトな写真」求めるプロンプトまで--MetaのAIアプリで恥ずかしい内容が意図せず公開

　「Meta AI」アプリを使っているなら、うっかり個人的な情報を共有していないか注意が必要だ。そんなことは絶対にしないと思うかもしれないが、多くのユーザーがプライベートなプロンプトをアプリ上に晒している。

提供：Jaque Silva/NurPhoto via Getty Images
※クリックすると拡大画像が見られます

　最近、同アプリの「Discover」（発見）フィードに公開を意図していない投稿が表示されるとのユーザーからの報告が相次いでいる。そこにはデリケートな医療情報、犯罪の自白、詳細を含む恋愛相談などが含まれている。

　筆者が実際にアプリをインストールして確認したところ、投稿は一見問題なさそうで、AIで生成された空想の景色や動物、政治家などの画像や動画が並んでいた。

　ところが20秒ほどたった頃、実名アカウントでややアダルトな写真を求めるリクエストが目に入った。その写真には多くのコメントが付いていたので詳細を開くと、投稿者がさらにアダルトなシチュエーションを求める追加の指示をしており、最終的には数百人がこの人物を嘲笑するコメントを残していた。本人はまさか公開されているとは思っていなかったはずだ。

　スクロールを続けたところ、目に入る投稿の95％以上は、ユーザーが望んで共有した写真や動画であるように見受けられた。しかし、そうではなさそうな投稿も紛れ込んでいた。具体的な求人情報を添えて面接の対策を求める投稿、恐喝の定義を問う投稿、夫への謝罪文を下書きする人の投稿などだ。また、公開を想定していないと思われる写真のスタイル変更をMeta AIに頼んでいる人もいた。

　他の人はさらにひどい例を目にしている。筆者は目を覆いたくなるほど恥ずかしい投稿は見なかったが、スクロールを続けていればそうなった可能性が高い。

　幸い、アプリには検索ボタンが存在しないため、誤って公開された他人の投稿を狙って探すことはできない。

　一体、何が起きているのだろうか。

Meta AIアプリ
提供：Meta
※クリックすると拡大画像が見られます

どうしてプロンプトを誤って公開してしまうのか

　Meta AIにプロンプトを入力するだけで公開されることはない。しかし、Meta AIアプリ特有の2つの状況が問題を引き起こしている。

　1つ目は、Meta AIアカウントを作成すると、デフォルトでInstagramのユーザー名が設定されるため、多くの人が実名と顔写真をプロフィールに表示している点だ。

　2つ目は、アプリにソーシャルメディア的な機能があることだ。何かを共有すれば、他人に見られると考えるべきである。

　何かを公開するには、「share」（共有）をタップし、続いて「post」（投稿）をタップするという2段階のプロセスがある。それでも、人々は明らかに公開したくないプロンプトを誤って公開している。その理由として最も可能性が高いのは、意図的に「post」をタップしているものの、それを個人的な日記のように捉えているというものだ。

　Metaにコメントを求めたところ、担当者は、会話はデフォルトで非公開になっており、ユーザーが投稿プロセスを経ない限り公開されないと改めて説明した。Discoverフィードに投稿するまでに「むしろ手間がかかりすぎると言う人もいる」という。

　Meta AIアプリで何も公開する予定がなければ、プロンプトが自分にしか表示されないよう設定することもできる。

Kindle電子書籍　売れ筋ランキング（Amazonでチェック）