説明可能な AI とは

説明可能な AI は、高度なアルゴリズムと人間の理解とのギャップを埋めるための重要な要素となります。しかし、それは、信頼を築き、規制を遵守し、組織の核心となる価値観と AI を一致させ「責任ある AI」を実現するための、より広範な取り組みの一部にすぎません。

理解を深めるために重要な原則に焦点を当てる説明可能な AI

• 透明性: AI 機能の仕組みや、どのようなデータが使用されているかを開示します
• 解釈可能性: 予測や意思決定が行われた理由を理解させます

AI モデルには、解釈性が極めて高いものから、解釈が困難な「ブラックボックス型」システムまで、透明性の度合いにばらつきがあります。

• ブラックボックス型モデル: 内部の仕組みが複雑であるという特徴があります。人間が意思決定プロセスを解釈したり、予測したりすることは困難です。その複雑さゆえに、想定されるユース ケースに応じて、特定の安全対策やパラメータが必要となります。Workday は、AI に関するファクト シートなど、明確な資料をお客様に提供することで、透明性を高める取り組みを行っています。
• 解釈可能な AI: アーキテクチャがシンプルで理解しやすいのが特徴です。
• 説明可能な AI: 意思決定の方法と理由の両方を明らかにする、最高レベルの透明性を提供します。

変革のストーリーと AI の進化

1950 年代、チューリング テストの提唱や、チャットボットおよびロボットの初期概念の登場により、理論的フレームワークを伴う AI の基礎構築が始まりました。この時代の後、AI は「冬の時代」を迎えることになります。しかし、1980 年代から 1990 年代にかけて、実用的なアプリケーションを通じて、AI は現実世界に広がっていきました。この時代は、AI がビジネスや社会における現実的な課題にどう対処できるかを探求する時期であり、AI が計り知れない可能性を秘めていることが明確になった時期でもありました。

2005 年、Workday が業界に参入しました。人材管理および財務管理分野における「クラウドファースト」のパイオニア企業としてエンタープライズ テクノロジーに変革をもたらし、継続的なイノベーションの基盤を築きました。

今日のビジネス環境で説明可能な AI が重要となる理由

ヘルスケアから製造、小売に至るまで、あらゆる業界において、ビジネス上の重要な意思決定を支援する手段として、AI への依存度が急速に高まっています。しかし AI の活用が急拡大するにつれ、予期せぬ悪影響が生じる可能性も高まっています。

説明可能な AI とブラックボックス型 AI モデル

ブラックボックス型モデルは、複雑な内部構造が特徴であり、解釈するのが困難です。そのため、堅固なリスク軽減策とガバナンスの実践に注力することが求められます。バイアスは、AI システムにおけるリスクのひとつです。テクノロジーがどのように利用されるかを踏まえて、積極的に測定し、軽減しなければなりません。

解釈可能なモデルは監査が容易である一方、最適なパフォーマンスを引き出すには、高度に複雑なモデルが必要となるケースが少なくありません。透明性と精度の高いパフォーマンスのどちらを選択するかは、具体的なビジネス ユース ケースやリスク プロファイルによって異なります。

エンタープライズ アプリケーションにおいて、重要な意思決定を行う際には、人間が監視する必要があります。例えば、高性能なモデルは複雑な財務上の結果を予測できるかもしれませんが、最終的な決定権は人間が持つべきです。

組織では、特定の目標を達成するために、異なる種類のモデルを組み合わせて使用することがよくあります。どのモデルを選択する場合でも、関連するリスクを軽減し、信頼性を確保するためには、包括的な安全対策と人間が関与する体制を導入することが不可欠です。

説明可能な AI が企業にもたらすメリット

説明可能な AI の導入やソリューションにより得られるビジネス上のメリットは、見過ごせません。これらのソリューションは、ステークホルダーの懐疑的な見方を解消し、AI への信頼と導入を促進します。

説明可能性とは、設計段階から透明性を確保するための実践やソリューションを指す領域であり、組織が倫理基準を遵守し、新たなコンプライアンス要件を満たすことを支援します。

AI の意思決定を容易に解釈し、フィードバックを得られる機能により、問題を早期に特定・修正できるようになり、リスク管理が強化されるとともに、AI モデルの継続的な改善が促進されます。

導入時に説明可能な AI の課題に対応

強固な戦略があったにしても、説明可能な AI の実践を導入することは、あらゆる規模の組織が取り組むべき真の課題となっています。基盤となる AI モデル自体が、非常に高度で複雑さを伴うため、最終的にはパフォーマンスを損なうことなく、高性能なモデルを解釈可能にすることが求められます。

知識が不足していると、新たな課題に直面します。根拠のある説明を作成するために、組織は AI の専門知識や、領域に関する知識を備えたチームを編成しなければなりません。チームは技術的知識を持たないステークホルダーを混乱させることなく、十分な情報を共有する必要があります。適切な人財がいなければ、詳細な説明とパフォーマンスを両立させることが困難になります。

Workday のアプローチは、説明機能を各 AI 機能に直接組み込み、日常のワークフローにシームレスに埋め込むため、説明可能な AI がビジネスプロセスへと効率的に統合されます。

説明可能な AI を責任ある AI (RAI) ガバナンスに統合

説明可能な AI の導入は、その実践と組織全体の「責任ある AI」ガバナンスを統合し、透明性と解釈可能性に関する具体的な要件を評価することから始まります。

説明可能な AI を導入する際は、現行の法律や規制に対するコンプライアンスの遵守、倫理的ならびに法的な要件を考慮する必要があります。また、必要な範囲を明確にすることも欠かせません。つまり、AI が行ったすべての意思決定に対して説明が必要なのか、それとも組織に重大な影響を与える意思決定に対してのみ、説明が必要なのかを決める必要があります。

AI がもたらすリスクは、状況や特性によって異なるため、多くの場合、説明可能な AI アプリケーションは、事業部門によって異なります。説明は、エグゼクティブ、規制当局、エンドユーザーといった、さまざまなステークホルダーに合わせて調整する必要があります。そのためには多様な分野の専門家が、積極的に関与することが求められます。

ガバナンス プロセスを確立することは重要です。これには、AI 倫理の原則を実践するための、明確なガバナンス フレームワークと企業文化を構築することが含まれます。このフレームワークにより、文書化に関する明確な基準を確立することができます。これは AI による意思決定の生成や検証方法を含め、規制遵守における重要な要素となります。文書化することで、AI 開発・導入の取り組みにおいて、透明性と説明責任を確保できるようになります。

説明可能な AI を成功に導く KPI とその他の指標

説明可能な AI の導入を成功させるには、適切なレベルの透明性を確保する必要があります。ユーザーは AI の説明を正しく理解できるでしょうか。ステークホルダーは、説明に基づいて実践的なソリューションを理解し、適用しなければなりません。信頼性や確信性といった指標が高まると、ユーザーは説明可能な AI が提示するインサイトに基づいて、行動を起こす可能性が高くなります。この指標が低い場合、まだ信頼性に問題があるのかもしれません。

業界や規制当局の透明性に関する基準を満たすためには、透明性、解釈可能性、説明可能性、説明責任といった、コンプライアンスを検証するための指標が重要となります。AI モデルは、意思決定プロセスを分かりやすく説明できなければなりません。説明責任とは、AI モデルがその意思決定や動作に対して責任を負うことです。

その他の指標には、AI モデルの説明可能な改善率などがあります。これは説明責任と密接に関連しています。説明可能性は、モデルの弱点を特定し、改善するのに役立つのでしょうか。説明可能な AI の成功度を測定することは、人間と AI が連携して行う意思決定を改善し、ビジネス成果の向上につながります。

Workday は組織のオペレーションにおいて AI の透明性を確保

説明可能な AI への Workday のアプローチでは、ソリューションに実践を組み込むことに重点を置いています。プラットフォームの各 AI 機能には、説明可能性が組み込まれています。Workday は、完全性を重視しながらイノベーションに取り組んでいます。Workday は、「責任ある AI」の基盤を通じて、計算効率とモデルの解釈可能性を両立させ、イノベーションの加速とイノベーションの信頼性を同時に実現できるよう取り組んでいます。

Workday はあらゆる説明に対して透明性を確保することで、説明可能な AI の信頼性を高めています。組み込み機能は、多くの IT インフラとシームレスに連携するため、円滑な導入と、ユーザー エクスペリエンスの向上が可能になります。

P.F. Chang’s 社などのお客様は、説明可能な AI テクノロジーを活用して、人事部門と財務部門の変革を進めています。AI 主導の Workday プラットフォームを導入することで、P.F.P.F. Chang’s 社は、組織内で部門を統合し、リアルタイムのインサイトを活用するとともに、より効率的な体制を構築しています。

説明可能な AI と、エンタープライズ テクノロジーの未来

新たな手法のひとつとして、「概念ベースの説明」があります。これは、未加工データを特徴量に変換するのではなく、AI モデルをトレーニングして、人間が理解できる概念を用いて、意思決定を導き説明できるようにするものです。

テクノロジーの進歩により、説明可能な AI モデルの説明責任と透明性がさらに高まっています。こうした継続的な進化により、組織は変化する規制において、その動向と影響に適応し、先を見据えて対応できるようになります。

AI導入を、責任を持って進めるには、信頼性を構築するための説明可能性が不可欠です。説明を透明化することで、ステークホルダーはテクノロジーそのものや、ビジネスにおける活用方法に対して、より深い信頼を寄せる可能性があります。Workday は、責任ある AI に対してプロアクティブなアプローチをとっています。実効性のある規制の策定に向けて政策立案者と積極的に関わり、お客様に安心いただけるよう、安全性と倫理に基づいた開発を進めています。

Workday は、責任ある AI の実践を取り入れ、人間の潜在能力を最大限に引き出し、イノベーションにおいて速さと信頼性を両立させています。