人工知能
静的な AI ポリシーでは、もはや不十分です
AI ガバナンスは、静的なポリシーから、リアルタイムで進化し、ドリフトを検知し、業務の安全を維持する動的なガードレールへと移行しなければなりません。
Sydney Scott
AI 担当編集ストラテジスト
Workday
数年前まで、AI ポリシーは PDF の中に存在し、年 1 回の委員会レビューを待つだけで十分でした。AI が単純な質問に答える基本的なチャットボットを意味していた頃は、その遅いアプローチでも十分に機能していました。今日、そのような静的な設定では機能しません。
数か月前に書かれたルールでは、毎週変更のあるソフトウェアを管理することはできません。曖昧な社内文書では、稼働中のエージェントが誤ったファイルを抽出したり、機密データを間違った人に送信したりすることを防ぐことはできません。従来の方法は、従業員がルール リストを記憶しているかに依存していました。新しいアプローチでは、それらのルールをシステムに直接組み込みます。
このシフトにより、古いポリシー文書は、エンタープライズ ソフトウェアに直接組み込んだ、有効で動的なガードレールに置き換わります。これらの自動制御機能は、デジタル式の速度監視や緊急ブレーキのように機能します。これらはソフトウェアをリアルタイムで監視し、エージェントが閲覧できる範囲を制限したり、リスクの高いステップに対して人の承認を求めたり、危険なアクションを完全に停止させたりします。継続的な安全確保が、年 1 回のイベントではなく、日々の業務フローの一部となります。
従来の方法は、従業員がルール リストを記憶しているかに依存していました。新しいアプローチでは、それらのルールをシステムに直接組み込みます。
レポート
AI エージェントが台頭—ただし AI エージェントが全決定権を持つわけではない
ポリシー バインダーとエージェントの対面
一部の企業は、今でも AI を基本的なデスクトップ アプリのように扱っています。アイデアを提案し、法務レビューを通し、署名をもらい、コードが正しく動作することを祈るだけです。AI が、人が使う単なるツールであった頃は、それで機能していました。AI がアクションを起こせるエージェントになった今、それではうまく機能しません。
エージェントは単に回答を作成するだけではありません。エージェントはデータを読み取り、ワークフローを開始し、レコードを更新し、メッセージのドラフトを作成し、システム間で業務を移動させることができます。つまり、ポリシーは人が何をすべきかを述べるだけでは不十分だということです。ポリシーは、エージェントに何を許可するかを制御しなければなりません。
チャットボットにはトーン、正確性、開示に関するルールが必要でしょうが、エージェントの場合には、アクセス、承認、エスカレーション、説明責任に関するルールが必要です。
Workday の AI プラットフォーム担当バイス プレジデントである Dean Arnold は、次のように説明しています。「組織は、管理するための人事部門システムなしに何千人もの社員を雇用することはないでしょう。AI エージェントにおいても同じ規律が求められるようになりました」
McKee Foods 社は、すでにこの考え方を実践しています。同社は、各エージェントに独自のデジタル ID と認証情報を付与しています。これにより、チームはどのエージェントが動作しているかを確認し、システム全体でアクセスできる範囲を制限できます。同社のバイス プレジデント兼最高情報責任者 (CIO) である Floyd Walterhouse 氏にとって、これは権限を委譲されて行動するエージェントに対する必要な対応です。ルールは、エージェントに自分の役割を守るよう指示するバインダーの中に存在するわけではありません。その役割はシステムに組み込まれています。
それが AI ポリシーの新しい職務です。ポリシーのバインダーを棚に置いておくことはできません。業務そのものの中で実行されなければなりません。
「生きたガードレール」が真に意味すること
生きたガードレールとは、AI エージェントを導入後も有用かつ安全で、説明責任を果たせる状態に保つための能動的な制御機能です。
基本的なガードレールは、「システムはこのルールに従わなければならない」と定めます。生きたガードレールはさらに一歩進んで、エージェントの運用に合わせてルールを適用、測定、テスト、改善できるようにします。それこそが「生きている」と言わしめる理由です。それは実際の動作から学習し、ドリフトを検知し、ワークフロー、データ、ユーザー、またはリスクが変化した際に適応します。
もし必要なガードレールがなければ、それらは Workday の最高技術責任者 (CTO) である Gabe Monroy が「法を無視するエージェント」と呼ぶものになってしまいます。
「それらは全知全能です」と彼は述べます。「それらはあらゆるものを見ることができ、多くのツールを通じてあらゆるものに接触し、実行できますが、根本的には無法なのです。」
生きたガードレールがガバナンスを生み出します。
一部のガードレールは、エージェントが本番稼働する前に構築されます。それらはエージェントの境界線を定義します。つまり、どのデータにアクセスできるか、どのツールを使用できるか、何をしてはならないか、そしていつ人間の承認者が必要になるかを定義します。
その他のガードレールはその場で生成されます。これらのランタイム制御は、エージェントの使用中に何が起きているかを確認します。これらは、権限の検証、機密データの検出、リスクあるアクションのブロックが可能です。あるいは、エージェントが処理を進める前に、マネージャへ判断を仰ぐようルーティングすることができます。
次に、フィードバック レイヤーであるモニタリングの出番です。これこそが、ガバナンスを動的でアジャイルな状態に保つものです。モニタリングはエージェントの実際の動作を監視し、動作をポリシーと照らし合わせ、監査用の証拠を作成し、ドリフトにフラグを立てます。ドリフトとは、データ、プロセス、または環境が変化したために、エージェントが承認された内容から徐々に逸脱していくことを指します。
ローンチ チェックリストがあれば、エージェントが初日にすぐ動作可能であったことは確認できます。しかし、100 日目にもエージェントが意図した通りに動作していることを証明することはできません。米国国立標準技術研究所 (NIST) と EU AI 法は、このシフトを指摘しています。つまり、AI のリスク管理はデプロイメントで終わりではないということです。規制当局は、このシフトについて明確に述べています。「一度チェックしました」というだけでは不十分なのです。
生きたガードレールとは、AI エージェントを導入後も有用かつ安全で、説明責任を果たせる状態に保つための能動的な制御機能です。
新たなコンプライアンスの強化
ガードレールは、エージェントの進化に追いついてこそ機能します。AI システムが拡大するにつれて、それはより困難になります。プロンプトは変化します。モデルはアップグレードされます。新しいデータソースがオンラインになります。ツールが追加されます。それぞれの変更が、エージェントが何を見、何を決定し、何を実行できるかに影響を与える可能性があります。
ポリシーに関する質問に回答する給与計算アシスタントには、一定レベルのリスクが伴います。銀行口座情報を変更できる給与計算アシスタントは、また別のリスクを伴います。管理体制は、リスクの大きさに応じて変更すべきです。
Workday CIO の Rani Johnson は次のように述べています。「決定論的な処理、つまりミッション クリティカルなサービスを実行する場合は、完全に正しい結果を導き出す必要があります。そのような業務を YOLO のマインドセットで実行することはできません」
低リスクの探索と重大な結果を招くアクションを同じ方法で管理することはできません。そのため、テストをルーチン化する必要があります。エージェントにより大きな権限を与える前に、実際のシナリオでテストを行うべきです。機密データを特定できますか？アクセス ルールを遵守していますか？エスカレーションのタイミングを判断できますか？誰かが AI にルールを破るよう求めたらどうなりますか？
エージェントに変更があった場合は、それらのチェックを再度実行する必要があります。新しいプロンプト、モデル、データソース、またはツールが追加されるたびに、再確認を行う必要があります。そうでなければ、リーダーは古いバージョンのシステムを管理している可能性があります。
証明書は、その証拠を意思決定へと変えます。それは、エージェントが動作を許可されるレーンを定義します。モニタリングによって、そのレーンが可視化されます。重要なアクションでは、誰が要求したか、どのようなデータが使用されたか、エージェントが何を決定したか、どのツールを呼び出したか、そして人が承認したかどうかを示す必要があります。
その記録は監査に役立つだけでなく、チームのラーニングにも役立ちます。ガバナンスは、証拠、フィードバック、そしてより鋭い意思決定を生み出すことで強化されます。
責任ある AI はチーム スポーツである
ガードレールは、人が実際に業務を行う方法に適合して初めて機能します。
それが、リーダーが急速に学んでいる教訓です。Celonis 社の最高法務・信用責任者である Vanessa Candela 氏は、それを明確に述べています。「規制当局が何とか解決してくれるのを、ただ座って待つわけにはいきません」と彼女は述べます。「私たちはそれを受け入れ、常識的なガードレールを設け、ただ前進しているのです」
Celonis 社は、法務、エンジニアリング、製品、セキュリティ、コンプライアンス、倫理の各部門を早期に結集させる、部門横断的な AI ガバナンス評議会によって、その考え方を支えています。重要なのは、ガバナンスを障害物ではなく、滑走路にすることです。
そして、そのモデルは共有されなければなりません。中央チームがベースラインを設定します。その後、セキュリティ チームが脅威を把握し、法務が義務を把握し、リスク チームがコントロールを把握します。ただし、ビジネス チームが各ワークフローのルールを形成します。なぜなら、彼らは業務がどこで煩雑になるかを知っているからです。彼らは、どのステップが重要か、どのチェックが人の業務を遅らせるか、そしてどこで人間が介入すべきかを把握しています。
これが、Workday の責任ある AI 担当最高責任者である Kelly Trindel が「責任ある AI がコア デザインの規律になった」と主張する理由でもあります。エージェントがビジネスのために計画し行動し始めるにつれて、リーダーは信頼がすでに危険にさらされた後に追加するのではなく、最初から組み込まれたガードレールを必要としています。
決定論的な処理、つまりミッション クリティカルなサービスを実行する場合は、完全に正しい結果を導き出す必要があります。そのような業務を YOLO のマインドセットで実行することはできません。
Rani Johnson
Workday、CIO
動き続けるコンプライアンス
AI は次のレビュー サイクルを待ってはくれません。コンプライアンスも同様です。
優れたガバナンスは、モデルが変更されたとき、チームが新しいデータソースを追加したとき、あるいはワークフローがパイロット版から日常的な使用へと拡大したときなど、実際の業務の複雑な過程において発揮されなければなりません。このような場合、チームは境界線がどこにあるかを把握しています。テストは出荷の一部となります。モニタリングは運用の一部となります。ルールが可視化され、最新であり、強制力があることで、ビジネスリーダーはより大きな自信を得ることができます。
しかし、ここに到達するために、リーダーは「このユース ケースを承認したか？」と尋ねるのをやめ、代わりに「今、それが安全で有用であり、コンプライアンスに準拠しているか確認できるか？」と尋ねる必要があります。
ガバナンスは AI のブレーキではありません。それは、チームがスピードとコントロールを持って業務を進めることを可能にするものです。一度限りの承認が、企業の開始を手助けしました。生きたガードレールこそが、スケーリングを支援します。
レポート
AI エージェントが台頭—ただし AI エージェントが全決定権を持つわけではない
日本の社員がAIに期待する価値と、分断された業務システムをつなぎ、生産性・創造性・戦略的思考を高める方法をホワイトペーパーでご覧ください。