SNSのメッセージを分析して親に“いじめアラート”--子どもを危険から守るエースチャイルド

　「もし、自分の子どもがいじめられていたらどうしよう」「知らぬ間にSNSで出会い系や犯罪に巻き込まれているかも」ーー。こうした不安を抱いたことがある親は多いのではないだろうか。子どもがスマートフォンやSNSを使うことが当たり前になった現代において、誰しもがこうしたトラブルに遭ってしまうリスクを抱えている。

　そんな、インターネット上にはびこる危険から子どもを守ることをミッションとしているのがエースチャイルドだ。同社では、子どものSNSのメッセージ内容などをプライバシーに配慮した上で分析し、危険な単語などが含まれていた場合に、親にアラートで伝える「Filii（フィリー）」を運営している。

こどもセキュリティ「Filii（フィリー）」

　Filiiは、子どもを監視するのではなく、あくまでも見守り、必要に応じて親子の会話を促すためのサービス。月額400円で家庭のスマートフォンを3台まで登録でき、2013年10月のサービス開始から5年間で約1万5000世帯に導入されているという。また、日本PTA全国協議会や、全国学習塾協会（JJA）、全国学習塾協同組合（AJC）などが同サービスを推奨しているほか、「UQ mobile」や「イオンモバイル」では、子ども向けの見守りサービスとしてFiliiをオプション提供している。

　「SNSというクローズドな環境では、外からやりとりが見えないので（いじめられていても）手が出せない。しかし、情報をまったく得られないわけではないので、われわれがその仕組みを作った。ようやく2017年ごろから、クローズドな環境での問題対策が議論され始めてきた。その流れを受け、教育委員会などでも教員や総務省、文科省の方などにご紹介いただけるようになり、サービスの認知が少しずつ広がっている」と、エースチャイルド代表取締役CEOの西谷雅史氏は話す。

エースチャイルド代表取締役CEO&Founderの西谷雅史氏（右）と同社エデュケーショナル・ストラテジストの飯島淳氏（左）

Filiiで使える4つの機能--危険度アラートや繋がり分析

　Filiiの機能は大きく4つある。1つ目が「アラートリスト・アラート検索」。子どものSNSでの投稿やダイレクトメッセージを分析して、危険が検知されると親のスマートフォンやPCにアラートがいく仕組みだ。通知内容は、問題が起きた発生日時や、やり取りをしている相手、やりとりの危険度（高、中、低）、「謝れ」「バカ」といった単語などで、もちろん会話の内容自体を見られるわけではない。対応SNSは、LINE、Twitter、Facebook、Messenger、カカオトーク、SNOW、Instagram。

「アラートリスト・アラート検索」

　2つ目が「アクティビティ分析」。子どものSNS上での活動内容を分析した結果を、グラフなどで視覚的に把握できる。たとえば、どの時間帯にTwitterをよく使っているかといった傾向や、どのアプリや機能をどれくらいの時間使っているかといった使用頻度などを把握できる。

「アクティビティ分析」

　3つ目が「つながり分析」。子どもがSNSやチャットアプリなどでどんな人物とつながりを持ち、誰と仲が良いのかといったことを確認できる。たとえば、Twitterなら相手のフォロー・フォロワー数、LINEなら合計のやり取り回数と、やり取り人数といった具合だ。そして、4つ目は「通知履歴」。これは先の3つと違い子ども向けの機能だ。Filiiがどの会話内容を分析したかを子どもが自ら確認できる。

「つながり分析」

　同社によれば、SNSの会話内容は、スマートフォンにプッシュ通知されるメッセージを活用しており、アプリの利用頻度やタイミングなどはOS情報から取得しているという。ただし、AndroidとiPhoneでは取得できるOS情報が異なるため、現在はAndroidの方がより正確に状況を把握できるとのこと。AIによって会話の文脈も考慮しており、たとえば「野菜が嫌い」というやりとりなどは対象から外れるように分析する。また、新たに生まれた単語などを検知漏れしないように、日々メンテナンスを欠かさないという。

　なお、一度スマートフォンを買い与えたあとに、子どもの端末にFiliiのアプリを入れようとすると、「監視するのか」と反発されてしまうことが多いという。そのため、小中学生にスマートフォンを買い与えるタイミングと同時に、ルール作りの一貫としてFiliiを導入する親子が多いそうだ。現在の利用者は小学生と中学生が5割ずつ。また、高校生になると“みんなと同じ”ことを重視してiPhoneを持ちたがる子どもが増えるが、小中学生の時には親からAndroid端末を与えられることも多く、iPhoneよりもAndroid利用者が多いという。

　同社では今後もFiliiの機能アップデートを予定しており、子どものスマートフォン利用の良い点のフィードバックや、ネット・スマホ依存アラート、チェーンメールやバトンの検知、YouTube視聴内容の把握なども可能にしたいとしている。