～通常型LLMと思考型LLMとで推論を協同させるデュアルRAGによりナレッジマネジメントを高度化

メタデータ株式会社（所在地：東京都文京区；代表取締役社長：野村直之）は、大規模な社内知識や多種のローカル情報を高精度に回答するRAGエンジン“ChatBrid”を2本動作させ、各々通常のLLMと思考型のLLMと連携させて、前者の出力を後者に評価、批評させるデュアルRAGタイプの“ChatBridDual”を、2024年11月14日、提供開始しました。これにより、Webページ原稿を含む顧客向けの文章、作業手順書、マニュアル全般、社内規則や規約の類、履歴書・契約書、営業電話のトーク・スクリプト、店頭客との対話シナリオ、相談・コンサルティング内容の雛型文書、仕様書、設計書、治験文書、教科書、試験問題、調査・分析レポート等の記事コンテンツをAI同士で評価させ、対話的に改善していく性能と効率が飛躍的に高まります。これにより、顧客などの関係者を巻き込んだナレッジマネジメントが高度化し、あらゆるステークホルダーの間で質の高いサービスのやりとりが可能となります。

■ 背景

2023年4月18日に初版をリリースしたChatBridは、その後、多ジャンルの数百本以上のマニュアル類を取り込んで自動的にジャンル間をスイッチングする高精度大規模RAGエンジンとして進化を遂げました。独自のベクトルストレージにより、質問文と類似、関連している度合いの根拠を、単語や意味の重なり具合を色付けして示す「ヴィジュアル類似検索」を搭載し、LLMからの回答の根拠の有無、正しさの度合いを素早く目視評価できます。また、ワードクラウドにより単語ランキング上位を眺めることで、影プロンプトで解説する必要のあるローカル専門用語の候補を見つけることができます。これらによって、知識デバッグ能力を高め、確実に高精度化できるとともに、知識を専門分野毎にデータセットに分割、管理することにより、大規模なマルチ専門家AIを構築しつつ各専門分野に適した質問文解釈、回答文・表現の生成を可能としています。

■ デュアルRAGとその意義

高精度大規模RAGエンジンChatBrid”を2本動作させ、各々通常のLLM例えばGPT-4oと、思考型のLLM例えばGPT-o1と連携させます。そして、前者の出力を後者に評価、批評させることによって、様々な前者の出力文章を改良させます。そのためのアーキテクチャとプロンプトエンジニアリング・ノウハウを“ChatBridDual”は備えています。これは、当メタデータ株式会社がミッションとして掲げる “AI for AI”の１つの具現化です。

2018年春より、文章生成の根拠を色付けにより明示するxAI(説明可能なAI)の先駆けとしてリリースした「ヴィジュアル類似検索」自体にも対話ボットのシナリオや文章の不備、とくに欠落内容の発見を支援する高い能力をもっていました。こうして、「ヴィジュアル類似検索」を搭載したChatBrid は、知識を補完・拡充する“AI for AI”として誕生しましたが、このたび、思考型LLMにより文章生成結果を直接評価し、その根拠を示しつつ改良案を提示することにより、ナレッジマネジメントを格段に高い水準に進化させることができます。

　従来型LLMが生成する文章、記事原稿の種類としては前述のように、例えば次があります：

・Webページ原稿を含む顧客向けの文章　　

・作業手順書　　

・マニュアル全般

・社内規則や規約の類　　

・履歴書　　

・契約書　　

・営業電話のトーク・スクリプト

・店頭客との対話シナリオ　　

・相談・コンサルティング内容の雛型文書

・仕様書　　

・設計書　　

・治験文書　

・教科書　　

・試験問題　　

・調査・分析レポート

これらすべての改良、拡充において、ChatBrid”を様々にチューニングしたデュアルRAGタイプの“ChatBridDual”が大いに威力を発揮します。