NTTドコモグループ3社（NTTドコモ、NTTコミュニケーションズ、NTTコムウェア）は、2023年8月21日（月）から生成AIの社内活用を行う実証実験を開始した。本実証実験は、大規模言語モデル（以下、LLM）を活用した生成AIによる、社内業務のDX推進、生成AIの付加価値を高める新たなサービス（以下、付加価値サービス）の提供を目指したもの。
本実証実験では、生成AIを活用する際の安全性と利便性向上のためにNTTドコモが開発した「LLM付加価値基盤」を、NTTドコモグループ3社で活用する。まず、専門性の高い問い合わせに対し、社内ルールやマニュアルをベースにLLMが生成した文章で回答するなど、社内業務において本基盤を活用する。また、利便性や回答の正確性を検証し、顧客応対業務などへの適用可否を検討する。
NTTドコモグループ3社は、今回の実証実験で得られたノウハウをもとに最適化を行い、法人顧客との検証を経て、本基盤の2023年度中のサービス提供開始を目指す。さらに本基盤を、NTTドコモが保有するビッグデータや音声認識・画像認識などのAI技術と組み合わせ、法人顧客とともに新たな付加価値サービスの検討を開始する。
企業が生成AIを利用する際、情報漏えいの懸念や正確性の担保の難しさといった課題がある。加えて、差別・暴力表現や社会規範に反する表現など、不適切回答から利用者を守り、安全に生成AIを活用するための仕組みが必要となる。
LLM付加価値基盤は、これらの課題に着目し開発された。プロンプト入力時に回答のもととなるマニュアルなどのファイルを追加で投入すると、ファイルの内容をもとに回答を生成、回答にファイル内のリファレンスを表示する機能などを備えている。
なお、NTTドコモグループ3社は、機微情報の外部送出フィルタリング機能やLLMからの不適切回答に対するフィルタリング機能の追加を予定している。
本基盤はAzure OpenAI Serviceと連携して利用可能だが、今後はNTT研究所が独自開発する分野特化型のLLMをはじめ、オープンソースソフトウェアや各ベンダーが提供するLLMを活用。ユースケースに合わせて様々なLLMを選択して利用できる基盤として拡張していくとのこと。
実証実験の概要
目的・概要
生成AIを活用する際の安全性や利便性を向上するために開発された、LLM付加価値基盤を活用。社内情報を安全にLLMに連携し、適切な回答文を生成できるか検証する。
本基盤を活用して社内業務のDXを推進し、得られたノウハウをもとに、顧客応対業務などより多くの業務への適用を目指す。
今後、法人顧客とともに、新たな付加価値サービスの創出に向けたユースケース検証を行う。
実証実験期間
2023年8月21日（月）～2023年12月31日（日）
LLM付加価値基盤の特徴
投入したファイルのリファレンスを表示する機能
事前に用意された、業務マニュアルなどの大量の文書を自然文で検索。文書の該当箇所をリファレンスとして表示し、検索結果を返却する機能を提供。
機微情報の外部送出フィルタリング機能
パーソナルデータなど、企業としてのLLMへの入力が好ましくないデータをチェックし、流出を防止するフィルタリング機能を提供予定。
差別・暴力などの不適切回答のフィルタリング機能
LLMからの出力内容をチェックし、差別・暴力表現や社会規範に反する表現など、企業として不適切な回答を低減するフィルタリング機能を提供予定。
