人工知能
AI エージェントの管理方法
AI エージェントを安全な方法で全社的に導入して持続的に価値を生み出すには、適切に AI エージェントを管理する必要があります。
Sydney Scott
AI 担当編集ストラテジスト
Workday
AI エージェントにより、エンタープライズ AI の新しい時代が到来しました。Workday の調査では、80% 以上のリーダーが「一部の業務ですでにエージェントを活用している」と回答しています。Gartner 社は、「今後 1 年以内に、エンタープライズ アプリケーションの 4 割にエージェントが組み込まれる」と予測しています。
エージェント型 AI システムが企業のワークフローに組み込まれるようになる中で、AI エージェントをいかに管理するかが、リスク、信頼、価値に直結します。人間のリーダーには、指針と境界を設定し、エージェントの動作を導く責任があります。
ガイド
スキル テクノロジーの選択: バイヤーズ ガイド
AI エージェントの管理方法: 5 つの重要なステップ
Workday の調査では、AI エージェントの管理体制が明確であるほど、社員がエージェントを受け入れる意欲が高まることが示されています。AI エージェントを適切に管理するには、社員がビジネス ワークフロー内で AI エージェントをどのように活用するのかについて、目的を明確にした意思決定を行う必要があります。
以下に、AI エージェントを適切に管理するための 5 つの実践的なステップを示します。
1.明確な目標と意思決定範囲を定義する
人間が AI エージェントの行動を継続的に管理できるように、AI エージェントに対する指示を共有のランブックや設定ファイルに記録します。どのようなタスクを実行したいのか、そのタスクの完了条件はどのようなものかなど、エージェントに対して具体的な指示を出すことが重要です。
たとえば、「請求書の回覧と検証を実行し、3 営業時間以内に承認準備を行い、定義されたエラーしきい値を超える例外が見つかった場合はフラグを立てる」などのように、明確な指示を出す必要があります。「請求処理を自動化する」などのように曖昧な指示を出すと、本来の業務範囲を超えて AI エージェントが行動する可能性があるため、こうした指示は避ける必要があります。
AI エージェントを適切に導入するには、人間が AI エージェントの行動範囲を明確に定義することが重要です。
Kathy Pham、オープン テクノロジー・AI 担当バイス プレジデント、Workday
2.ガードレールとエスカレーション パスを定義する
エージェントに対して業務の実行権限を付与したら、どのタイミングでその業務を一時停止して人間の担当者に引き継ぐかについても定義する必要があります。人間による判断や責任が求められる状況においてエージェントが勝手に行動しないように、どのような状況で人間が介入すべきかを明確に定義することが重要です。
同様に、エスカレーションについても慎重に定義する必要があります。だれが問題を引き継ぐのか、その問題を解決するにはどのような情報が必要になるのかを定義します。推奨事項とその根拠がエージェントによって提示されれば、人間が迅速に介入して業務を円滑に進めることができます。
3.人間とエージェントのワークフローを調整する
ガードレールとエスカレーション パスを定義したら、通常業務の進め方を定義します。通常業務のどのステップをエージェントが実行するのか、どのタイミングで人間がレビューや承認を行うのかを明確に定義することが重要です。
これにより、日常業務における曖昧さがなくなります。エージェントが自律的に業務を処理する場合と人間の介入が必要な場合を明確に把握できるようになります。
4.システム間でエージェントを調整する
AI エージェントが複数のシステムにまたがって行動する場合は、システム間の調整が重要な要素になります。自動化された特定の動作が原因で、別の場所で予期しない変化が発生する可能性があるため、人間による管理を通じて、重複業務や矛盾した意思決定を防ぐ必要があります。
人間による管理を行うには、AI ワークフローを監視する担当者を割り当てます。この担当者は、複数のシステム間のやり取りを円滑化し、自動化プロセスに対する変更を承認して、矛盾した動作の発生を防ぐ必要があります。
また、エージェントが更新/追加/削除された場合は、下流に対する影響を確認し、エージェントの変更内容が適用される前に、関連エージェントの調整を行う必要があります。
5.結果を評価してエージェントの動作を改善する
エージェントの導入後は、期待した成果が上がっているかどうかを確認し、期待した成果が上がっていない場合は、エージェントの動作を修正する必要があります。そのためには、対象を絞り込んだビジネスレベル指標を定期的に評価し、その結果に基づいて、エージェントの動作を変更すべきかどうかを判断します。
ワークフローが改善しているかどうかを判断するには、以下の指標を評価します。
- サイクル タイム: エージェントが処理するプロセスは最適化されているか
- 品質: 追加のレビューや修正を行わなくても、成果物は基準を満たしているか
- コスト: 業務が再配分されているだけでなく、全体的な業務量が削減されているか
- エンプロイー エクスペリエンス: 定型業務に費やす時間が減り、価値の高い業務に費やす時間が増えているか
期待した成果が上がっていない場合は、エージェントの権限、意思決定の範囲、レビュー ポイントを変更します。エージェントの動作がビジネスの現状に反映されるようにに、ワークフローや優先順位が変更されるたびにこのプロセスを繰り返します。
83％ の社員が、「AI の行動範囲が明確に定義されていれば、自分の業務で AI を活用したい」と回答しています。
人間が AI エージェントを管理しなければならない理由
多くの社員が、AI エージェントに期待を寄せています。実際に 88% の社員が、「エージェントによって業務が効率化され、生産性が向上すると思う」と回答しています。AI を活用したツールの最大のメリットは、「自律的に動作する」ということです。初期設定を行うだけで、定型的なプロセスが処理されます。人間が介入する必要はほとんどありません。
AI ツールを常時監視する必要はありませんが、AI ツールの行動範囲については明確に定義する必要があります。スマートな監視を通じて AI の動作を適切に管理することにより、責任ある AI の活用が可能になります。
- 権限を持つのは人間: 多くの社員は、AI エージェントをリーダーではなく協力者として認識しています。実際に 75％ の社員が、「AI エージェントと協力することに抵抗はない」と回答し、「AI エージェントに管理されることに抵抗はない」と回答したのはわずか 30％ にすぎません。現在は、AI エージェントがますます日常業務で活用されるようになっていますが、AI エージェントが権限を持つまでには至っていません。
- 人間による管理が必要: AI エージェントは徹底した最適化を行い、状況が変化しても目標達成を追求します。そのため、人間が適切に管理しなければ、組織として目指す目標から逸れてしまう可能性があります。継続的な管理により、変化する優先事項にエージェントを適応させ、組織としての戦略に基づいて生産性を高めることができます。
- 判断するのは人間: エージェントがどれだけ進化しても、人間特有のスキルを代替することはできません。多くのリーダーが「AI では代替できない」と考えている主要なスキルとして、倫理的な意思決定と道徳的な判断があります。これが、AI エージェントを適切に管理しなければならない最も大きな理由です。
- 大規模な AI 活用の鍵は人間による意思決定:「自信を持って責任ある AI の活用を進めることができる」という回答の割合は、初期段階では 36％ にすぎませんが、AI を効果的に活用できるようになると、その割合は 95% にまで上昇します。AI エージェントが複数のワークフローにわたって動作する場合は、人間がすべての意思決定を行うことにより、さまざまなタスクを効率的に自動化できるようになります。
まとめ: エージェント型 AI の未来
現在は、企業のワークフローにおける AI エージェントの責任範囲がますます拡大し、人間だけですべての業務を行うケースは少なくなっています。リーダーはこうした状況に対処するため、権限の所在と意思決定の管理方法を明確に定義する必要があります。これを明確に定義しないと、社員が AI エージェントを信頼して活用することはできません。
財務データや業績データに求められる厳格さで AI エージェントを管理すれば、業務をサポートするパートナーとして、AI エージェントを安全かつ大規模に活用できるようになります。これにより、エージェントの自律性と効率性を活用しながら、複雑な判断や最終的な決定については人間が行うことができます。
すでに 82％ の企業が AI エージェントを活用しています。御社は準備ができていますか？ Workday の最新レポートで、AI を活用して人間の潜在能力を最大限に引き出す方法を確認してください。
ガイド
スキル テクノロジーの選択: バイヤーズ ガイド
リーダーの 62% は AI を歓迎していますが、同様の考えを持つ社員の割合は 55% にとどまっています。このような AI の信頼性ギャップを解消し、AI を大規模に導入する体制を整備することが、企業を将来的な成功へと導きます。