アップル、児童の性的虐待を防ぐための機能をOSに導入へ--「iCloud」の画像検出など

Ian Sherr (CNET News) 翻訳校正: 矢倉美登里 吉武稔夫 (ガリレオ)2021年08月06日 10時48分

 Appleは米国時間8月5日、ウェブサイトに新たなセクションを公開し、秋にリリースする見込みの各OSの最新版である「iOS 15」「iPad OS 15」「macOS Monterey」「WatchOS 8」で、児童の性的虐待コンテンツ(CSAM)の検出など3つの機能を導入すると発表した。児童を犯罪者から守り、CSAMの拡散を抑止することが目的だ。子どもの安全に詳しい専門家らの協力を得て開発したという。

 1つ目は、児童が「メッセージ」アプリで性的に露骨な写真を受信した可能性が高い場合、写真をすぐに表示せず、センシティブな内容かもしれないが本当に閲覧するかと確認する警告メッセージを表示する機能。性的に露骨な写真を送信しようとした場合にも警告を表示する。デバイス上で機械学習を利用する仕組みのため、Appleがメッセージにアクセスすることはない。

Messages
提供:Apple

 2つ目は、「iCloud」に保存されたCSAMを検出する機能で、全米行方不明・被搾取児童センター(NCMEC)が提供するデータベースを利用する。同社によると、この機能は「ユーザーのプライバシーに配慮して設計」されており、画像がiCloudにバックアップされる前にデバイス上で画像をスキャンする。CSAMが見つかったとプログラムが判断した場合には、Appleの担当者が確認した上でアカウントを無効化し、NCMECに通報する。

 3つ目は、「安全ではない状況」で支援を求めるのに役立つ情報を、「Siri」と検索で保護者や児童に提供するというもの。また、ユーザーがCSAMに関連するトピックを検索しようとした場合に「介入」し、そのトピックが有害であることを説明するとともに、支援のためのリソースを提供する。

 業界観測筋からは、児童搾取に対する同社の取り組みを称賛する声もあったが、全体主義的な政権に悪用されかねないシステムをAppleが構築しているおそれがあるという懸念も聞かれた。

この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。

CNET Japanの記事を毎朝メールでまとめ読み(無料)

-PR-企画広告

企画広告一覧

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]