AI開発でユーザーの会話を盗み聞きするアマゾンと「Alexa養育係」の話 - (page 2)

心配になる「現場の人たち」への皺寄せ

　上述の性的暴行の物音（を録画したデータ）を耳にしてしまったレビュアーの話は、Alexa開発チームのルーマニア拠点の従業員からBloombergが聞いたもの。そして、Amazon側では「気分が悪くなる」音声を聞いてしまった従業員がストレス緩和のために従うべき手順を定めている、また従業員同士がチャットルームで話をしてストレスを減らすこともあるとも書かれている。その一方で、犯罪の証拠となりえるデータを耳にした従業員がそのことを上司に報告したところ、「それ（事件への介入）はわれわれの仕事ではない」と言われた、という記述もある。

　この（とくに前者の）話で思い出したのは、2月下旬に出ていたThe Vergeの特集記事ーーFacebookでコンテンツ・モデレータとして働く派遣社員たちの話で、モデレータといえば聞こえはいいが、要は有害コンテンツをチェックして該当するものは削除するという（言葉は悪いが）「デジタルなドブさらい」、しかも心的外傷後ストレス障害（PTSD）にもなりかねない類の仕事をしている人たちのことだった。

• The Trauma Floor（The Verge）

　3月半ばにニュージーランドのクライストチャーチであったモスクでの銃乱射事件（50人が死亡）では、犯人（オーストラリア人の白人男性）がFacebook経由で、犯行の始終をライブ配信していたことが物議を醸した（あの動画に言及した記事のなかには、「気分の悪くなるコンテンツ」があると警告する表示があるものも見つかる）。あの動画ほどひどい内容ではないにしろ「不適当なコンテンツ」、しかも動画を目にすると、精神的に悪影響を受け、 PTSDに似た症状を呈する人もいる。このモデレ―ション作業を担当するFacebookのアリゾナ拠点では、派遣会社側が一応カウンセラーまで用意もしているが、数も十分足りているわけでなないので常に当てにできるわけではない……といったことがこのThe Verge記事には書かれている。

　兵隊として国家のために戦った結果のPTSDなら国が面倒みてくれるだろうが、有害コンテンツの人間フィルターとして受けた心の傷の後遺症をきちんと面倒見てくれるものはいない。Facebookがこの作業をCognizantという外部の業者に外注しているのは、現場の作業員を使い捨てとみなしているためではないのか。何年か前によく話題（問題）になっていたAmazon倉庫の現場従業員の場合とそっくりであるように感じられる。

　話がだいぶ脇にそれたが、Amazonには、ユーザーの音声データをめぐるプライバシー関連の事柄とともに、このあたりの事柄ーーまだ未熟な「AIによる自動化」の尻拭いをする立場の人たちを具体的にどうケアしているのか（今後していくのか）という点に関する説明責任があると思う。

　なお、今回の話は英語圏のAlexaユーザーというのが暗黙の前提になっているようで、それをカバーするレビュー要員が米国内（ボストン）からコスタリカ、インド、ルーマニアといった海外まで世界各地にいると書かれている。しかし、ご承知のように、Alexaは何年か前から日本語にも対応していて、ウェブを検索すると大阪にある開発拠点の人材募集広告なども簡単に見つかる。つまりこれは、遠い海の向こう側の話ではない、ということだ。