Appleの児童虐待画像検出、何が問題なのか?--Appleニュース一気読み

  • 一覧
  • このエントリーをはてなブックマークに追加

 Appleは、iOS 15 / iPadOS 15 / macOS Montery / watchOS 8に対して、児童の性的虐待コンテンツ「CSAM」の検出に関する3つの新機能の導入を発表した。これに対して、賛否が渦巻いており、Appleは大量に苦慮している。

 これらの機能は、以下の通りだ。

  1. 児童がメッセージアプリで、静的に露骨な写真を送信しようとすると、警告を出す。逆にそうした画像を受信場合、すぐ表示せず警告メッセージを表示する仕組み。これはデバイス内で処理され、Appleが内容を関知することはないとしている。
  2. 写真アプリに関するiCloudのCSAM検出機能。全米行方不明・非搾取児童センター(NCMEC)が提供するデータベースを利用し、画像がiCloudにバックアップされる前に画像をスキャンし、CSAMが見つかった場合、Appleの担当者が確認の上アカウントを無効化し、NCMECに通報する。
  3. 「安全ではない状況」で支援を求める際に役立つ情報を、Siriと検索で児童や保護者に提供する機能。ユーザーがCSAM関連のトピックを検索しようとした場合に介入し、そのトピックが有害であることを説明するとともに、支援のための情報を提供する。

 児童の性的虐待やそれを助長する情報をAppleデバイス上から排除しようという試みで、家族単位での利用や教育セクターに力を入れるAppleとしては取り組みたかったテーマだと言える。現状そうした取り組みをデバイスやOSレベルで実現しようという試みは見当たらない。

 その一方で、情報の送受信に関連してAppleがコンテンツをスキャンすることそのものに対する懸念や、全体主義的な政権に悪用される危険性があるシステムをAppleが作ってしまった恐れがあり、反発も招いている。

 たとえば、今回対象となるCSAMではなく、反政府的な画像やビデオであっても、送受信やバックアップ前にスキャンしうることを、Appleは自ら証明してしまった。近年のデータプライバシーに関連して、中国のデータを中国国内に保存することに同意するなど、中国当局に協力的な姿勢であることから、そうした懸念に対する指摘が生まれてしまった。

 Appleはこの機能について、補足説明をしたり、幹部がインタビューに応えたりするなど、ユーザーの理解を求めようとしている。機能の解説ページでは、以下のようなメッセージを出している。

 「Appleの目標は、人々の安全を維持しつつ、人々に力を与え、人々の生活を豊かにする技術を創造することにある。コミュニケーションツールを使って児童を勧誘して利用する悪人から児童を守り、児童性的虐待素材(CSAM)の拡散を制限したい

 またAppleのソフトウェアを統括するシニアバイスプレジデント、Craig Federighi氏は、この機能の発表の仕方が悪かったと、混乱を招いた原因を釈明した。前述のように本稿で整理したが、複数の取り組みを同時に発表してしまったため、分かりにくくなっているとしている。

 Federighi氏によると、iMessageで子どもたちに送受信の際に警告を出す機能と、iCloudフォトライブラリーの写真のスキャンとは全く別のものだとしている。前者は児童と保護者への教育が目的であり、児童虐待画像データベースとの照合を伴わない機能だ。

 後者に関しては、クラウドの写真を1枚ずつ確認して解析するのではない方法での検出を目指しており、特定の既知のCSAMとの正確なフィンガープリントの照合を行うとしている。そのため、プライバシーについてはむしろ促進するものだと述べた。

アップル、児童の性的虐待を防ぐための機能をOSに導入へ--「iCloud」の画像検出など(8/6) アップル、児童虐待画像の検出技術に関するFAQを公開(8/10) アップルの児童ポルノ画像検出は誤解されている--ソフトウェア責任者が語る(8/16)

その他

iOSもAndroidも--「Beats Studio Buds」が新チップで挑んだ高音質と簡単接続(8/10) 電子マネーnanacoとWAON、年内にもApple Payに対応(8/10) 折りたたみ式「iPhone」のコンセプト映像、ConceptsiPhoneが公開(8/10) 次期「iPhone」、写真・動画関連で3つの新機能を追加か(8/11)

CNET Japanの記事を毎朝メールでまとめ読み(無料)

-PR-企画特集

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]