NEC、AIを活用するファクトチェック支援技術を開発へ--偽情報分析に特化したLLMで評価

　NECは、総務省における「インターネット上の偽・誤情報対策技術の開発・実証事業」の採択のもと、AIを活用してインターネット上の情報の真偽を多面的に分析し、ファクトチェックを支援する偽・誤情報分析技術の開発を開始すると、9月13日付けで発表した。開発した技術は、日本ファクトチェックセンターなどのファクトチェック機関や放送局をはじめとするマスメディアにおいて有効性の検証を行い、精度向上を目指すという。なお、本実証事業の期間は2024年8月から2025年3月までとしている。

　昨今、インターネットにおける生成AIや編集ツールによる偽・誤情報の氾濫が社会問題になっており、対策技術に注目が集まっている状況であること。また、ファクトチェック機関や信頼性の高い情報を発信する責務を有するマスメディアなどでは、真偽判定ならびに判定結果に係るレポート作成に多大な工数を要しており、業務の負担が課題になっている状況を指摘。そこでLLM（Large Language Model：大規模言語モデル）など最先端AIを活用し、コンテンツの真偽分析・判定とレポート作成を行うファクトチェックを支援する技術を開発することにより、偽・誤情報分析業務の効率化を目指すという。

開発技術のフレームワーク

　今回開発する技術は、複数種類のデータ（テキスト、画像、動画、音声）で構成されるコンテンツが、偽・誤情報かどうかをAIで分析し、その内容の真偽を分析するもの。具体的には「画像などが生成・加工されていないかの検知」「複数種類のデータをAIで認識してテキスト化」「前項で認識したテキストの内容が正しいか、出典がある情報かどうか、データ間の矛盾（テキストと動画の内容が食い違っているなど）がないか」などを偽情報分析に特化したLLMで評価することで、真偽を総合的に判定する。

　また、ファクトチェック機関の専門家が作成する報告書や記事に近い形式でレポートを作成。信頼性の低い根拠の削除や新たな根拠として情報を加えるなど分析者の指示に応じた調整を可能とすることにより、ファクトチェック業務の容易化や効率化を目指す。

　開発した技術は、今後日本ファクトチェックセンターなどのファクトチェック機関や放送局をはじめとするマスメディアにおいて実用性を検証。精度の向上などを行い、実用化を目指す。またこの技術は防災をはじめさまざまな業界での応用も検討していくという。

ニュースリリース