CData Connect AI Gateway のご紹介

この 1 年で、私たちがお客様から求められる支援の内容は、大きく変わりました。いまやエージェントは、企業が日々利用するさまざまなシステム上で、人に代わってパイプライン情報の取得、請求書の照合、レコードの更新といった業務をこなしています。CIO の皆さんとの会話も変わりました。1 年前は「AI を自社のビジネスにどうつなげればよいか」というご相談が中心でしたが、いまは「導入した AI の動作を信頼できるのか」「そのコストを管理できるのか」という問いが寄せられるようになっています。

AI Gateway は、ルーティング、アクセス、コスト管理の面で着実に進化してきました。そのうえで、エージェントが実務を担うには、作業対象のシステムについて、各フィールドが何を意味するのか、誰の権限が適用されるのか、あるアクションによって何が変わるのかまで理解している必要があります。こうした理解は、各システムのデータレイヤーにあります。

本日、CData Connect AI Gateway の早期アクセスを開始します。Connect AI Gateway は、AI と皆さんのシステムの間に置くひとつの制御ポイントです。ルーティング先のモデル、読み込むツール、リクエストに紐づく ID、アクセスするレコード、実行するアクションまで、リクエストのあらゆる段階を管理します。このゲートウェイを CData のデータレイヤー上に構築したのは、そこにすでにセマンティックな理解が備わっているからです。

なぜゲートウェイの出発点はデータなのか

CData のデータレイヤーは、Palantir、Google、そして数百社の ISV（独立系ソフトウェアベンダー）の製品を支えており、10,000 を超える組織が、数百に及ぶ SaaS アプリケーション、データベース、データウェアハウス、オンプレミスシステムへの接続に利用しています。これらのコネクションは、各システムのスキーマ、リレーション、カスタマイズ、そして数百あるフィールドのうちどれが重要なのかを把握しています。回答の正確さ、アクセスの統制、リクエストごとのコスト。本番環境での AI の成否を左右するのは、まさにこの知識です。

精度　十分に解釈されたスキーマにビジネスコンテキストを添えてモデルに渡せば、モデルはデータの意味を推測せずに済みます。378 件の実際のプロンプトを用いた「25% の精度ギャップ」調査では、Connect AI が 98.5% の割合で正しい結果を返したのに対し、比較した他の Model Context Protocol（MCP）プロバイダーの正答率は 65%〜75% にとどまりました。差がついた原因は、いずれもデータを正しく理解できていないことにありました。

ガバナンス　権限管理と監査が実効性を持つのは、ソースシステムの内部で、ユーザー自身の ID のもと、レコード単位まで適用されている場合です。当社の調査のひとつでは、制御されていない直接アクセスを与えられたモデルが、本来想定していた範囲をはるかに超えてレコードを変更してしまいました。一方、Connect AI のガバナンス機能を備えたツールは、モデルのアクセスを権限のあるレコードだけに限定しました。

コスト　データをモデリング（集計、結合、フィルタリング）できるツールは、レコードをそのまま取得するのではなく、回答となる結果セットを返します。そのため、モデルに渡るトークン数が少なくなります。同じ調査では、優れたツールを使えば、正しい回答を最も安く得られるのはエコノミークラスのモデルで、そのコストは最も高価なモデルの 178 分の 1 だったことがわかりました。

Connect AI Gateway が新たにもたらすもの

エージェントをシステムに接続するのは、あくまで第一歩です。残る仕事は、接続後のエージェントの動きを統制することです。具体的には、どのモデルが回答するのか、どのようなコンテキストを提供するのか、リクエストにどれだけのコストがかかるのか、エージェントに何を閲覧・変更させるのか、そしてそのやり取りから企業として何を残すのか、といった点です。Connect AI Gateway は、これらすべてを 4 つのレイヤーでカバーします。

ゲートウェイ　ルーティング、制御、可観測性を備えた LLM ゲートウェイと MCP ゲートウェイを提供し、両者を横断した監査も可能です。エンタープライズ向け MCP も標準で組み込まれています。CData が開発した数百のコネクタが統制されたツールとして公開され、すでに運用中の MCP サーバーも、同じポリシーのもとで管理できます。承認済みのモデルやプロバイダーを定義し、ルーティングルールを設定したうえで、ユーザー、エージェント、モデルごとにコストを管理できます。

制御とセキュリティ　ポリシーは、モデルからレコードに至るまで、あらゆる段階で適用されます。すべてのリクエストには、依頼元のユーザーと、そのユーザーに代わって動作するエージェントの ID が紐づけられ、その ID に基づいてソースシステム側でアクセスが制御されます。また、アクションは確定（コミット）される前に、そのシステム固有のビジネスルールに照らして検証されます。

コンテキストエンジン　今回最大の追加要素です。3 種類のコンテキストを保持し、それらを一元的に扱います。「システムコンテキスト」は、コネクタが各システムについてすでに把握している情報（スキーマ、オブジェクト、リレーション、操作など）で、システムを接続したその日から利用できます。「企業ナレッジ」は、チームが文書化している情報で、指標の定義、ビジネス用語、データチームが管理するセマンティックモデルなどがこれにあたります。これらはインポートするか、AI の支援を受けて生成します。「組織ナレッジ」は、誰も書き留めていない情報です。たとえば、財務部門が売上にどのフィールドを使っているのか、パイプラインの特定のステージがなぜ予測から除外されているのか、どの顧客テーブルを正とすべきか、といったことです。エンジンはこうした情報を日々の利用から学習し、やり取りを重ねるたびに知識が蓄積されていきます。アナリストが前提を修正すると、その修正は共有コンテキストとして提案され、担当者の承認を経て、以降のすべてのリクエストに適用されます。一度解消された曖昧さについて、同じ問いを繰り返す必要はありません。

データレイヤー　Connect AI がすでに提供しているオンプレミスシステム、SaaS アプリケーション、データベース、データウェアハウスへのリアルタイム接続に、より強力なモデリング機能と仮想化機能が加わります。これにより、データチームがビジネスロジックを一度定義すれば、すべてのエージェントがそれを引き継げるようになります。

これらをひとつにまとめる理由

各レイヤーは、ほかのレイヤーが必要とする情報を持っています。コネクションはシステムを把握し、プロンプトはユーザーの意図を伝え、ID はそのユーザーに何が許可されているかを決めます。これらがそろうことで、リクエストに適したモデルを見極めてルーティングできます。コンテキストがあるので、推測による再試行も減ります。さらにコンプライアンスチームは、回答に含まれるあらゆる数値を、その根拠となったプロンプト、モデル、ツール、レコード、ポリシーまでさかのぼって追跡できます。ゲートウェイがインデックス化されたコピーや同期されたコピーをもとに動作している場合、これを保証するのははるかに難しくなります。こうした追跡は、ソースシステムへの直接接続があってこそ成り立つものだからです。

また、CData はモデルもデータウェアハウスも販売していないため、ゲートウェイが特定の製品を優遇する理由はありません。多くの企業はすでに複数のモデルを運用しており、新しいモデルが登場するたびにその組み合わせを見直しています。Connect AI では、コンテキストが特定のモデルから独立してゲートウェイ内に保持されるため、ルーティング先のどのモデルも同じ定義にもとづいて動作します。

早期アクセスのご案内

エージェントが担う業務は、どの企業でも四半期ごとに広がっていくでしょう。エージェントを最大限に活かせるのは、エージェントの動作を信頼でき、あらゆるアクションをソースまでさかのぼって追跡できる企業です。私たちが構築しているのは、まさにそのためのプラットフォームです。いち早くご利用いただくお客様とともに、このプラットフォームを形づくっていければと考えています。早期アクセスは本日より開始します。また、11月5日（米国時間）開催の「Foundations」では、Raviv と私から、コンテキストエンジンの仕組みとプラットフォームの今後の展望についてお話しします。

— Amit

※本記事はCData US ブログ Introducing CData Connect AI Gateway: Start at the Data の翻訳です。