TikTok、出会い系や危険なダンスを自動検知--青少年を守る機能を紹介

　ショートムービーSNS「TikTok」を運営するBytedanceは11月30日、「第1回 TikTok Japanセーフティパートナーカウンシル」を開催した。これはTikTokセーフィティセンターの開設と、青少年の健全育成に関わるNPO団体と連携する「セーフティパートナー制度」の開始を記念して開催されたものだ。

　TikTokは、音楽に合わせた口パクやダンスを投稿できるショートムービーSNS。2016年にサービスを開始し、2018年7月時点でグローバルでの月間アクティブユーザー数は2億人にのぼる。国内でも青少年を中心にユーザーが急増。人気が高まる一方で、その安全性に不安の声も挙がるようになっていた。

Bytedanceの山口琢也氏

　Bytedance 執行役員 公共政策本部長の山口琢也氏は「誰もが安全で快適に感じるアプリの環境を創造することはTikTokの最優先課題」であるとし、特に青少年の安全には優先的に取り組むと語った。

機械学習でリスクを検知、人的な確認を経て対応

　山口氏は、TikTokアプリに用意されている安全関連機能を紹介した。不適切な投稿を通報できる報告機能や、コメントやユーザーをブロックできる機能、プライバシー設定で非公開アカウントに設定できる機能などを用意していると説明。1日の利用時間を2時間に制限できるペアレンタルコントロール、検索ウィンドウに「自殺」や「死にたい」などのキーワードを入れたユーザーに対してホットラインの連絡先を表示する自殺防止機能も搭載している。

　さらに山口氏は「リスク警告」機能についても触れ、「危険な動作や怪我をする可能性がある行動、専門家の指導が必要な動画は、機械学習で判断し、さらに人間が見て判断をする。潜在的な危険性があると判断した動画には、赤いバーに白い文字で“危険動作のために安易に真似することをご遠慮ください”と警告を表示する」と、テクノロジーを使って閲覧者を守る機能を搭載していることを明かした。

リスク警告がムービーの上に表示される

　機械学習はこれだけに留まらず、児童の性的搾取など、これまで不適切な行動を取ったユーザーの行動パターンを解析、同様の行動を取っているアカウントを把握するという。アカウントは専門の担当者が確認し、行動の程度に応じてアカウントの停止や通報を行う仕組みも整えている。

　また、出会いリスクに関する対策も自動化している。「ある人に対してある人が3回メッセージを送り、3回返信をしていない場合は、自動でブロックする機能を搭載している。」（山口氏）。このほか、TikTokセーフティセンターの日本語版を開設し、安全性に関する情報の発信を開始したことも発表された。

アプリ上で楽しく学べるドリルも公開

　同日には、TikTok Japan セーフティパートナー制度を設立したことも発表。安全性向上のために、青少年の育成に関わるNPO/NGO、9団体と連携し、現場の声を取り入れていくという。

TikTok Japan セーフティパートナー

　イベントに登壇した、子どものネット利用に詳しいお茶の水女子大学の坂元章教授は、「青少年は目先の刺激や興奮を求める脳の構造上の問題があり、衝動的に投稿してしまう。しかし、動画には静止画よりも多くの情報が含まれており、改変しにくいという特徴があるため弁明もしづらい」と動画投稿ならではのリスクを指摘した。また、「会社を発展させることに注力して安全性への配慮を後回しにする会社が多いが、TikTokはむしろ先回りして取り組んでいることに驚いた。今後のモデルケースになるかもしれない」と、TikTokの取り組みに期待を寄せた。

お茶の水女子大学の坂元章教授

　TikTokは、アプリ上で安全に利用する方法を学べる「TikTokドリルセーフティ編」を同日公開した。撮影してはいけない場所、通報すべき内容などを学ぶことができる。正解率に合わせて称号が与えられるため、若いユーザーが楽しくリテラシーを学ぶことができる仕組みとなっている。

「TikTokドリルセーフティ編」