NRIセキュア、AIそのものの品質や安全性を検証し、リスクを可視化する「AI品質・適合性検証サービス」の提供を開始

なお、本サービスではテキスト生成系AIなどをはじめとして多様なAIを対象としており、対象のAIに応じてNRIセキュアが独自に開発したツールのほか、AIの自動テストや運用時のモニタリングツールを開発・提供する株式会社Citadel AI[i]（シタデル エーアイ）の製品を用いて検証を行います。

■AIの品質検証の必要性
AIは、大量のデータを使って学習し、答えを導き出すという特性上、人間がそのロジックを完全に把握して統制することや、その挙動を詳細に説明することが困難です。このように、AIは推論過程がブラックボックスになる傾向が強く、品質を検証することが難しくなりがちです。品質検証ができなければ、出力精度向上のために改良すべき箇所が分からないという事態に陥ってしまいます。

■本サービスの概要
１．AIそのものの品質をさまざまな指標で検証・可視化
企業がシステムに用いるAIに対して、「信頼されるAI（Trustworthy AI）」[ii]に不可欠な要素を評価し、技術的な検証ならびにISO規格[iii]等に対する適合性検証に関わる技術評価を行うことで、「AIの品質上のリスク」の可視化を支援します。

２．検証結果に基づく改善案の提言
AIの検証結果を元に品質向上に向けた提言を行います。自社システムに実装するAIの品質向上の用途での使用はもちろん、外部にシステム開発を委託し、検収や受け入れを行う際の品質確認として活用することもできます。

３．品質検証ツールの導入支援も可能
国内外を問わず多数の企業に採用されているCitadel AI社の品質検証ツールの導入を、NRIセキュアが支援することも可能です。継続的かつ即時的に検証を行うことでAIシステムのさらなる精度改善につながることが期待できます。

本サービスの詳細については、次のWebサイトをご参照ください。
リンク

NRIセキュアは今後も、企業・組織の情報セキュリティ対策を支援するさまざまな製品・サービスを提供し、安全・安心な情報システム環境と社会の実現に貢献していきます。また、進化し続けるAI領域を自らリードできる先端人材の育成にも継続的に取り組んでまいります。


[i] 株式会社Citadel AI：「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップ企業です。詳細は、次のWebサイトをご参照ください。リンク

[ii] 信頼されるAI（Trustworthy AI）：NRIセキュアでは、Robustness（頑健性）、Explainability（説明可能性）、Fairness（公平性）などをAIの評価要素と考えています。Trustworthy AIに関する詳細は、次のWebサイトをご参照ください。リンク

[iii] ISO規格：非政府機関 International Organization for Standardization（国際標準化機構）が制定する、国際的な取引をスムーズにするために、何らかの製品やサービスに関して「世界中で同じ品質、同じレベルのものを提供できるようにしましょう」という国際的な基準です。本サービスは、「ISO/IEC 24029-1」や「ISO/IEC 4213」等を対象としています。（参考：一般社団法人 日本品質保証機構 リンク）

■ご参考
NRIセキュアが提供するAIセキュリティ関連サービスについては、次のWebサイトおよび一覧表をご参照ください。
リンク

表：AIセキュリティ関連サービス一覧