ソフトバンクは3月19日、通信業界向けの生成AI(人工知能)の基盤モデル「Large Telecom Model」(LTM)を開発したと発表した。
LTMを基にしたAIモデルを活用することで、手動または部分的に自動化されたワークフローと同等の精度を保ちつつ、これらの設定変更などにかかる時間を数日から数分に短縮できる。人為的ミスの削減に加え、膨大な運用時間およびコストの削減が期待できるという。
LTMは、ソフトバンクの先端技術研究所が考える「HumanAI」のコンセプトを実装した技術。スーパーコンピューター「NVIDIA DGX SuperPOD」を使用しつつ、ソフトバンクが保有する膨大なネットワークデータや長年培ってきた設計・管理・運用ノウハウなどの多岐にわたるデータセットを学習。モバイルネットワークの設計・管理・運用を高度に推論できるという。
ソフトバンクは、LTMをファインチューニングしたAIモデルの第1弾として、モバイルネットワークの運用を高度化する、基地局の設定の最適化に特化したモデルを開発。このモデルで学習データセットから意図的に除外した基地局の設定を推論させて社内の専門家が最適化した実際の設定と比較したところ、90%以上の高い精度で同様の設定を生成できたという。
第1弾のようにLTMを基としてユースケースごとにファインチューニングすることで、モバイルネットワーク運用のさまざまなシーンに対応した専用AIモデルの容易な開発が可能。AIを活用してRAN(Radio Access Network、無線アクセスネットワーク)の性能向上を目指す「AI for RAN」の取り組みを支える基盤としても機能し、将来的にはネットワーク設計指針の策定、ネットワーク最適化AIエージェントの開発など、多方面への応用に取り組むという。今後は研究開発を重ねて自社への導入を目指す。
なお、NVIDIAの推論用マイクロサービス「NVIDIA NIM」によるAIモデルの最適化も実施している。質問の入力から最初の応答(トークン)が出力されるまでの時間(Time to First Token、TTFT)と1秒当たりのトークンの生成速度(Tokens Per Second、TPS)の両方で約5倍の性能向上を確認したという。NVIDIA NIMの利用により、ソフトバンクはオンプレミスとクラウドの両方で柔軟な展開が可能となるとしている。
CNET Japanの記事を毎朝メールでまとめ読み(無料)
先端分野に挑み続けるセックが語る
チャレンジする企業風土と人材のつくり方
すべての業務を革新する
NPUを搭載したレノボAIパソコンの実力
地味ながら負荷の高い議事録作成作業に衝撃
使って納得「自動議事録作成マシン」の実力