無秩序な AI エージェントと秩序ある AI エージェント: スピードの真の代償
真のスピードを実現するには、最高情報責任者 (CIO) が AI エージェントをシステム オブ レコードに直接組み込む必要があります。
Gabe Monroy
最高技術責任者
Workday
真のスピードを実現するには、最高情報責任者 (CIO) が AI エージェントをシステム オブ レコードに直接組み込む必要があります。
Gabe Monroy
最高技術責任者
Workday
このシリーズの第 1 回の記事では、スピードや安全性を損なわずに企業エージェントを構築する 3 つの方法を紹介し、Workday のガードレールにより、どこからエージェントにアクセスしても、ルール、承認プロセス、監査証跡が維持されることを説明しました。この記事では、「無秩序」なエージェントが企業のコンプライアンスを脅かす理由と、その解決策として、AI の推論処理を組織固有のガバナンス体制内で直接実行することの重要性について説明します。これが、秩序あるエージェントを実現するための唯一の基盤になります。
現在、取締役会の場で CIO に求められていることは、大きく分けて 2 つあります。それは、スピードと ROI (投資利益率) です。経営幹部は、成熟したエージェント型 AI 戦略を策定し、測定可能な成果をもたらす自律型システムをいつまでに導入するのかについて、明確なスケジュールを示すことを CIO に期待しています。
本番環境への移行を急ぐと、アーキテクチャに関する重大な見落としが発生する可能性があります。現在の市場で主流になっているのは、シンプルな考え方です。エージェント、ツール、データがあれば十分だという考え方です。どのベンダーも明言はしていませんが、ほぼすべての製品がこの考え方に基づいて販売されています。具体的には、企業データをクラウド上のデータ レイクに格納し、市販の大規模言語モデル (LLM) を接続して、さまざまな操作を実行するためのツールボックスを導入すれば、アジリティが向上するという考え方です。
しかし、そうはなりません。むしろ逆の結果を招きます。私はこれまで、世界最大規模のワークロードを支える開発者向けプラットフォームやクラウド インフラの構築に取り組んできました。その経験から、社員、顧客、財務部門がエンタープライズ ソフトウェアを使用するようになると、ソフトウェアに求められる条件が根本的に変わるということを学びました。社員の生活や企業の財務諸表が関係してくるため、事実に基づかない情報の生成や誤った処理の実行などは一切許容されません。
ガイド
この問題の原因を理解するには、エージェントの構造を詳しく知る必要があります。エージェントの基盤となる大規模言語モデルは、確率論的な仕組みで動作し、事前に設定されたルールではなく、数学的な確率に基づいてトークンを生成します。ルールを導入するためにテクノロジー業界が主に採用しているのが、ツールを呼び出すという方法です。こにより、モデルに対して一連の API が渡され、実際の環境でアクションが実行されます。
ツールの呼び出しにより、個々のアクションが決定論的になります。ツールは、定義された指示を毎回同じように実行しますが、全体的な意思決定の仕組みは、依然として確率論的なままです。エージェントは、呼び出すツール、呼び出すタイミング、使用する引数を自分で判断する必要があります。
汎用的なツールは、渡された指示をそのまま実行するため、ツールの呼び出しだけではガバナンスの問題は解決しません。問題がツールとの接続境界に移るだけで、接続境界は露出し、無防備な状態のままです。こうしたリスク カテゴリを適切に管理するには、正式な AI リスク管理フレームワークやオープンでセキュアな AI インフラを活用する必要があります。これらの仕組みの重要性は、ますます高くなっています。
この確率論的なモデルをエージェント フレームワークに組み込んで目標を設定すると、その目標を自律的に追求する高い能力を持った AI エージェントが実現します、ただし、1 つだけ欠点があります。それは、企業ガバナンスという概念が存在しないということです。
たとえば、あるマネージャが市販の AI エージェントに対して、海外の契約社員のオンボーディングを実行するように指示したとします。ガバナンスの仕組みがない場合、このエージェントは、指示されたタスクの完了だけを目標にします。個々のツール呼び出しはすべて成功したとしても、その過程において、各地域の労働法、源泉徴収、従業員の分類に関する確認処理が実行されない可能性があります。これは悪意からではなく、こうしたルールの存在を認識する仕組みがアーキテクチャに組み込まれていないために起こります。無秩序なエージェントは、ルールが厳格に管理されていないシステムを通じてタスクを完了させます。表面的には、アジリティが向上したように見えますが、実際には、いつ爆発してもおかしくない規制上の時限爆弾が埋め込まれたようなものです。
無秩序なエージェントは、ルールが厳格に管理されていないシステムを通じてタスクを完了させます。表面的には、アジリティが向上したように見えますが、実際には、いつ爆発してもおかしくない規制上の時限爆弾が埋め込まれたようなものです。
IT 部門のリーダーがこうした無秩序な動作に気づくと、エンジニアとしてのデフォルトの発想から、システムの外部から脆弱性を修正しようとします。そのためエンジニアリング チームは、外部の LLM ゲートウェイを構築したり、ポリシーを適用するためのミドルウェアを追加したり、すでに過密状態のコンテキスト ウィンドウに膨大な企業ポリシーを挿入したりします。
こうした対策は、いずれも長続きしません。AI エージェントに指示を出しても、それが正しく実行されるという保証はないからです。18 か月後には、エンジニアリング チームが多額の費用を費やし、急ごしらえの独立した AI 基盤内で、組織構造、ルーティング ロジック、セキュリティ権限を手作業で再構築することになります。
これが「シャドウ ERP」という落とし穴であり、企業のアジリティが失われる原因です。どのような対策を実施しても、結局は、システム オブ レコードにすでに組み込まれているものと同じビジネス ロジックを、脆弱でバグの多い形で複製してメンテナンスすることになります。メンテナンス コストが際限なく増大してガバナンスも分断されてしまう方法は、決して近道とはいえません。
秩序あるエージェントを設計するには、企業向けの安全対策を中核的なインフラとして構築し、推論エンジンと実行ランタイムに直接組み込む必要があります。エージェントが何を参照し、何を実行し、何にアクセスするかを完全に制御するには、企業ガバナンスの仕組みがすでに組み込まれてるプラットフォーム上で AI の推論処理を実行する必要があります。
エンタープライズ AI において本当に難しいのは、推論の実行ではなくコンプライアンスの遵守です。給与計算を 1 回実行するだけでも、多くの国や地域にまたがって絶えず変化する源泉徴収や賃金に関するさまざまなルールが関係します。独立したモデルでは、こうした仕組みを再現することはできません。多くの企業は、すでにこのことを理解しています。こうした企業は、独自の給与計算エンジンを開発するのではなく、システム オブ レコードに投資しています。エージェントを外部のミドルウェア経由で使用すると、こうした基本方針に違反することになります。秩序あるエージェントを実現するには、各種のルールがすでに組み込まれている環境でエージェントを使用する必要があります。
秩序あるエージェントを実現するには、各種のルールがすでに組み込まれている環境でエージェントを使用する必要があります。
重要なガードレールはすべて、組織構造、有効なアクセス権限、設定済みのビジネスプロセスなど、企業の現在の状態に全面的に依存します。これらの要素を外部で再構築しようとすると、ソフトウェアの限界が表面化します。エージェントが参照する情報は、古いスナップショットになり、エージェントがアクセスする対象は、リスクの高い静的な API キーになります。エージェントとガードレールの構成要素との距離が離れるほど、ガードレールの完全性が損なわれます。
この距離が離れると、処理速度も低下します。エージェントの処理は本質的にやり取りが多いため、1 つのタスクを完了するために数十回のツール呼び出しが必要になります。呼び出しが外部の信頼境界を越えるたびに、呼び出し元の再認証が必要になります。一方、ネイティブ プラットフォームの境界内では、セキュリティ コンテキストが常に有効になっています。エージェントが秩序あるアーキテクチャを選択すれば、エージェントの処理速度が上がります。
これは「近接性の原則」といいます。AI の推論処理は、AI を管理するプラットフォーム上で直接実行する必要があります。AI とプラットフォーム間の中継点が増えるたびに、ガードレールの完全性と処理速度が低下するためです。
今後 AI エージェントの提案を受けた場合、デモの内容だけを見るのではなく、「ガードレールはどこで実行されるのか」とベンダーに質問してください。その答えが「社内のシステム オブ レコードから切り離された外部レイヤーで実行されるため、社内で開発とメンテナンスを行う必要がある」という内容ならば、それはシャドウ ERP を構築することを意味します。真のスピードを実現するには、企業のルールがすでに組み込まれているシステムにエージェントを直接接続する必要があります。これにより、CIO は安全性を確保しながらスピードを追求できるようになります。
ガイド