コンタクトセンターのためのセキュアな大規模言語モデル「AOI LLM for AmiVoice Communication Suite」を、ソフトバンクのコールセンターへ導入

通話の自動要約を目的とした共同検証でファインチューニングを行い、最先端のLLMを超える精度を実現

株式会社アドバンスト・メディア（本社：東京都豊島区、代表取締役会長兼社長：鈴木清幸 以下、アドバンスト・メディア）は、ローカル環境でセキュアに利用可能なコンタクトセンター向け大規模言語モデル（LLM）「AOI LLM for AmiVoice Communication Suite（アオイ エルエルエム フォー アミボイス コミュニケーション スイート）」を、お客様との通話内容の要約業務のため、ソフトバンク株式会社（以下、ソフトバンク）のコールセンターへ導入しました。




「AOI LLM for AmiVoice Communication Suite」は、機密情報を含む通話データを一切外部に出さず、お客様のローカル環境で、通話内容の生成要約やQ&Aの抜粋、VoC（お客様の声）抽出などができる生成AIサービスです。

この度、アドバンスト・メディアが、長年の音声認識エンジンのチューニングにより培った、パラメータ調整や学習データの整備といった、顧客データをAIに学習させるための優れた知見を、LLMの学習に活かし、それをコールセンター業務を熟知したソフトバンクが持つノウハウに基づき、高いレベルで評価・分析を行いながらチューニングの方針を両社で検討し決定したことで、非常に高いファインチューニングの効果を得ることに成功しました。
その結果、「AOI LLM for AmiVoice Communication Suite」による要約の品質が、ソフトバンクが定めた「具体性」「可読性」「正確性」といった独自の要約精度評価基準において、最先端のLLMよりも優れた要約精度を達成したため、お客様との通話内容の要約業務に生成AI（人工知能）の導入を2024年10月から開始しました。結果、業務経験が浅い新人オペレーターの要約業務の作業時間を約30％削減できる目途が立ちました。
また、可用性・保守性の高いAPIとハードウェアリソースに応じてLLMの処理性能を最大化させる機能を併せて提供することにより、導入中のコールセンターシステムと「AOI LLM for AmiVoice Communication Suite」のスムーズなシステム連携を実現しています。

ソフトバンクは、当社が提供する国内シェアNO.1（※1）のAI音声認識AmiVoiceを搭載したコンタクトセンター向け音声認識ソリューション「AmiVoice Communication Suite」を、2019年より同社のコールセンターに導入しています。個人情報を含む顧客情報を扱うコールセンターでは、高いレベルのセキュリティの確保が必須です。このため、LLMの導入においても厳格なデータ保護とプライバシー管理が求められていました。そこで、セキュリティの確保されたローカル環境で稼働するLLMの検証を、アドバンスト・メディアと共同で行ってきました。
ベースモデルについては、さまざまな検証の結果、Meta社が提供するLlamaに東京科学大学(旧・東京工業大学)が日本語能力を強化した大規模言語モデルであるSwallow-70bが今回の用途において、高い性能を発揮したため採用を決定しました。
「AOI LLM for AmiVoice Communication Suite」は、ソフトバンクのコールセンターにおいてお客様との通話内容の要約業務に活用がされます。


アドバンスト・メディアでは、高い要約精度を実現した「AOI LLM for AmiVoice Communication Suite」の活用を、さまざまな企業や団体に拡大していくことで、コンタクトセンタービジネスの変革を推進し、より効率的で高品質な顧客サービスの提供を実現してまいります。

「AOI LLM for AmiVoice Communication Suite」について




「AOI LLM for AmiVoice Communication Suite」は、機密情報を含む通話データを一切外部に出さずお客様のローカル環境で、通話内容の生成要約やQ&Aの抜粋、VoC（お客様の声）抽出などができる生成AIサービスです。幅広い業界のコンタクトセンターにおける導入実績に基づく知見や専門技術を用いたカスタマイズおよびシステムインテグレーションにより、コンタクトセンター業務に最適化しています。クラウド提供型生成AIサービスのような利用回数などの制限なくご利用いただけます。なお、「AOI LLM for AmiVoice Communication Suite」は、コンタクトセンター向け音声認識ソリューション「AmiVoice Communication Suite」のオプションとして提供しています。
https://www.advanced-media.co.jp/products/service/aoi-llm

「AmiVoice Communication Suite」について




「AmiVoice Communication Suite」は、国内シェアNO.1（※1）のAI音声認識AmiVoiceを搭載したコンタクトセンター向けソリューションです。通話内容の全文テキスト化に加え、感情解析機能、話題抽出機能、管理者による複数通話同時モニタリング、オペレーター業務支援など、多数の機能を備えており、通話内容の可視化と応対品質向上を支援します。
クラウド版/オンプレミス版、リアルタイム認識処理/バッチ認識処理をご用意し、コンタクトセンターの席数・規模に関わらず、柔軟な運用が可能です。
https://www.advanced-media.co.jp/lp/communication-suite/


※1 出典：合同会社ecarlate「音声認識市場動向2024」音声認識ソフトウェア/クラウドサービス市場
※AOIについて：AOIとは「AmiVoice Ontology Integrated」の略で、AmiVoiceのオントロジー融合技術のこと。AOIはメタ認知などの知識処理に優れており、生成AIとの連携などにより高速で高精度の知識処理を行うことができる。AOIはこれまでのAIに形式知の知識ベースを付与した音声AIであり目的特化による高精度を特長とする。オントロジーとは第2次AIで提唱された静的な知識表現の１つである。



以上

【本件のお問い合わせ】
株式会社アドバンスト・メディア
CTI事業部
MAIL：[e-mail]
https://www.advanced-media.co.jp/