メタデータ株式会社（所在地：東京都文京区；代表取締役社長：野村直之）は、大規模な社内知識や多種のローカル情報を高精度に回答するRAGエンジン“ChatBrid”を、LLM込みでオンプレミス出荷し、外部ネットを遮断して動作可能な完全オンプレミスRAGシステムChatBridORを 2024年8月20日、受注開始しました。ChatBridORは、万一にも外部に漏洩できない機密情報、高度専門知識を組織内でリアルタイム共有、知識継承をはかる法人、チームに最適な生成AIボットです。
　　
　ChatBridORは、8/29-30、ベルサール渋谷ファーストで開催のAI博覧会Summer 2024 C-1ブースにて初披露いたします。https://event.aismiley.co.jp/event/9497/users/register
また、完全オンプレミスRAG、特にローカルLLMのハードウェア要件、モデル規模と精度の関係、その解決策をまとめた小冊子を各日先着50名様に贈呈いたします。

■ 背景
　2023年4月18日に初版をリリースしたChatBridは、その後、多ジャンルの数百本以上のマニュアル類を取り込んで自動的にジャンル間をスイッチングする高精度大規模RAGエンジンとして進化を遂げました。独自のベクトルストレージにより、質問文と類似、関連している度合いの根拠を、単語や意味の重なり具合を色付けして示すビジュアル類似検索を搭載し、LLMからの回答の根拠の有無、正しさの度合いを素早く目視評価したりすることができます。また、ワードクラウドにより単語ランキング上位を眺めることで、影プロンプトで解説する必要のあるローカル専門用語の候補を見つけたりすることができます。これらによって、知識デバッグ能力を高め、確実に高精度化できるとともに、知識を専門分野毎にデータセットに分割、管理することにより、大規模なマルチ専門家AIを構築しつつ各専門分野に適した質問文解釈、回答文・表現の生成を可能としています。

■ ChatBridORとその意義
　ChatBridORは、上記のようなChatBridの特長をそのまま踏襲しつつ、唯一外部にアクセスしていた、LLM（大規模言語モデル）呼び出しを、ローカルLLMに対して行います。名称の末尾の「OR」は「On Premise RAG」、RAGは、Retrieval Augmented Generationの略で、OpenAI社、Google社、Anthropic社、Azure等のサーバから遮断し、LAN内で動作していることを意味します。
　ChatBridORは、万一にも外部に漏洩できない機密情報、高度専門知識を組織内でリアルタイム共有、知識継承をはかる法人、チームに最適な生成AIボットです。マークダウン形式を中心に知識を整理し、ChatBridORの回答をみながら知識（マニュアル等）を修正、拡充しつつリアルタイムで知識提供させるナレッジマネジメントを、100%完全に機密を保った状態で推進することができます。

■ AI博覧会Summer 2024 C-1ブース
ChatBridORは、8/29-30、ベルサール渋谷ファースト（東京都渋谷区東1-2-20 住友不動産渋谷ファーストタワー2F）で開催されるAI博覧会Summer 2024 C-1ブースにて披露いたします。本展示会では、96GBのGPUメモリ搭載の同一サーバ上で、ChatBridならびに日本語情報の追加学習を行ったローカルLLMの両方を動作させています。
博覧会ご登録はこちら：https://event.aismiley.co.jp/event/9497/users/register

■ 完全オンプレミスRAG小冊子の目次

完全オンプレミスRAGについて解説した小冊子を会場C-1ブースにて、各日先着50名様に贈呈いたします。特にローカルLLMのハードウェア要件、LLMのモデル規模と精度の関係、その解決策をまとめた内容になっています。

1.  ChatBrid概要  ～質問の専門分野を判断し知識セットを自動切替

 ～ローカル・ベクトル検索にBoolean検索等の併用可能なハイブリッドRAG

2. ローカルLLMのハードウェア要件と、規模・精度

3. 完全オンプレミスRAGの予算、松竹梅コース

4. 精度を保ちつつ予算節減するには、シンプルな文章、文体を！

5. ChatBridのマルチ専門家を素早く実現するプロンプト・リバース・エンジニアリング