Praktiken für verantwortungsvolle KI
Vertrauen stärken durch verantwortungsbewusste Entwicklung von KI-Lösungen
Wir entwickeln KI-Features auf verantwortungsvolle Weise und bieten unseren Kunden die Tools und Funktionen, die sie für die Einführung, Konfiguration und Anwendung von KI zum Erreichen Ihrer Ziele benötigen.
Verantwortungsvolle KI bei Workday
Workday ist ein Branchenführer bei Governance für verantwortungsvolle KI (Responsible AI Governance, RAI) – und wir wollen KI nach ethischen Prinzipien entwickeln und einsetzen. Deshalb bewerten und managen wir die Risiken der KI sorgfältig. Unser Team arbeitet mit allen Bereichen von Workday zusammen, um zu gewährleisten, dass unsere KI Menschenrechte und Sicherheit wahrt und der Gesellschaft durch die Implementierung eines verantwortungsvollen Ansatzes einen echten Nutzen bietet.
Durch die proaktive Partnerschaft mit Coalfire, einem führenden Unternehmen für Cybersicherheit, sind wir in der Lage, unsere KI-Prozesse anhand des NIST AI Risk Management Framework zu evaluieren. Außerdem haben wir unser Programm von Schellman nach ISO 42001 zertifizieren lassen. Diese unabhängigen Evaluierungen validieren unsere Einhaltung der höchsten Standards für verantwortungsvolle KI, einschließlich Kontrollmechanismen für KI-Sicherheit und Datenschutz.
Zuverlässige Risikobewertung
Je nach KI unterscheiden sich die Risiken in Bezug auf die Rechte und Sicherheit der Menschen. Unser erster Schritt ist stets eine sorgfältige Risikobewertung. Auf diese Weise können wir uns auf potenziell problematische Bereiche konzentrieren und gewährleisten, dass unsere gesamte KI – ob für Kunden oder unser eigenes Team – verantwortungsvoll und nach ethischen Gesichtspunkten unbedenklich ist.
Es sind mehrere Kontrollpunkte vorgesehen und wir prüfen unsere KI-Anwendungsfälle mindestens zwei Mal: einmal während der Entwicklung und dann noch einmal vor dem Einsatz. So können wir potenzielle Probleme frühzeitig erkennen. Anschließend erstellen wir detaillierte Pläne, um diese Bedenken auszuräumen, sei es in der Entwicklungsphase oder beim Einsatz von KI.
So evaluieren wir Risiken
Die Einstufung erfolgt anhand von Faktoren wie die Fähigkeit des Produkts, Vorhersagen oder Kategorisierungen zu einzelnen Mitarbeitern zu treffen. Neben weiteren Aspekten bezüglich der Merkmale oder des Kontexts der verwendeten KI spielt auch eine Rolle, welche direkten oder indirekten Auswirkungen das Produkt auf die wirtschaftlichen Chancen hat. Wir berücksichtigen bei dieser Evaluierung auch „verbotene Risiken“, um Anwendungsfälle zu identifizieren, die aufgrund eines potenziellen Schadens für Menschen oder der Gefährdung grundlegender Menschenrechte aus unserer genehmigten Governance-Struktur herausfallen.
Jeder Risikostufe ist eine bestimmte Reihe von Protokollen oder Standards zugeordnet, um diese Risiken zu minimieren. KI-Features mit höherem Risiko unterliegen strengeren Anforderungen und erfordern eine größere Anzahl von Protokollen. Auf diese Weise wird sichergestellt, dass der Grad der Überwachung in einem angemessenen Verhältnis zu den potenziellen Risiken bei der Nutzung des Produkts stehen.
Ganz gleich, ob wir die KI entwickeln oder anwenden: unsere Evaluierungen sind optimal darauf abgestimmt. Auf diese Weise können wir vorausschauend handeln, potenzielle Probleme frühzeitig aufspüren und gewährleisten, dass unsere KI sicher und verantwortungsbewusst entwickelt und eingesetzt wird. Darüber hinaus definieren unsere internen Richtlinien verbotene KI-Anwendungsfälle, Rollen und Verantwortlichkeiten und legen den spezifischen Zeitplan und die Anforderungen für die Durchführung der RAI-Risikoevaluierung fest.
Unser Engagement für verantwortungsvolle KI
Der verantwortungsbewusste Einsatz von KI ist ein kontinuierlicher Prozess. Wir beobachten laufend neue regulatorische Trends, gesellschaftliche Erwartungen und Best Practice-Frameworks. Unser Team entwickelt seine Praktiken und Programme aktiv weiter, damit unser Ansatz zur Entwicklung und Implementierung von KI fair, zuverlässig und ethisch vertretbar bleibt und den höchsten Standards für verantwortungsvolle KI entspricht.
Wir orientieren uns an KI-Governance-Frameworks wie dem NIST AI Risk Management Framework (AI RMF). Darüber hinaus bewerten wir laufend aktuelle und in Entwicklung befindliche Vorschriften im Hinblick auf unser RAI-Programm und unsere Praktiken, einschließlich des KI-Gesetzes der EU, des KI-Gesetzes von Colorado und anderer aktueller Vorschriften und Frameworks auf lokaler, nationaler und internationaler Ebene.
Bei Workday legen wir großen Wert auf Transparenz, d. h. auf die Bereitstellung klarer Informationen, die die Entscheidungsfindung unterstützen. Im Folgenden beschreiben wir die wichtigsten KI-Protokolle, die wir für eine risikobasierte Governance in unseren KI-Lebenszyklus aufgenommen haben und die wir je nach Risikostufe des Anwendungsfalls (siehe oben) mit unseren zuständigen Teams für die Entwicklung und den Einsatz von KI teilen.
KI-Verantwortung
Risikoidentifizierung
Beschreibung für Entwicklung
Ermitteln und bewerten Sie proaktiv und umfassend die Risikostufe des Produkts oder Features.
Dies schließt ethische, soziale und technische Risiken ein, die mit dem jeweiligen Anwendungsfall und den Eigenschaften des KI-Features verbunden sind. So können wir potenzielle nachgelagerte Auswirkungen in der Produktionsumgebung minimieren, bevor sie Schaden anrichten.
Wir tun dies nicht nur, um die potenziellen negativen Auswirkungen zu verstehen. Wichtig sind für uns auch die möglichen Vorteile, die sich idealerweise ergeben können, sowie die sichere Bereitstellung der Features zu diesem Zweck.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Rollen und Verantwortlichkeiten
Beschreibung für Entwicklung
Sie sollten die Rollen und Zuständigkeiten der verschiedenen Teams, die an der Entwicklung von KI-Features beteiligt sind, klar definieren. Dies können Teams der Bereiche Produkt und Technologie, ML Engineering, Legal und Compliance, Datenschutz und andere sein. So werden während des gesamten KI-Entwicklungslebenszyklus Verantwortlichkeit, Zusammenarbeit und Diversität im Hinblick auf den Input gewährleistet.
Zusätzlich entsteht ein organisch wachsendes Netzwerk von Experten, die neuen Teams für Fragen und Support zur Governance-Struktur zur Verfügung stehen.
Und schließlich wird ein strukturierter Beitrag zum RAI-Governance-Framework ermöglicht, wenn neue Grenzfälle identifiziert werden und wenn sich das Geschäft verlagert, verändert und wächst.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Nutzennachweis
Beschreibung für Entwicklung
Sammeln und dokumentieren Sie Informationen, die den Nutzen des KI-Features belegen. Daraus sollte hervorgehen, wie das Feature den beabsichtigten Zweck erfüllt und wie Anwender davon profitieren.
Oder anders ausgedrückt: Liefert die KI-Funktion einen sinnvollen Mehrwert für die Anwender?
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Transparenz und Erklärbarkeit
Erklärbarkeit.
Beschreibung für Entwicklung
Stellen Sie erklärendes Material dazu bereit, wie das KI-Feature funktioniert und wie seine Ergebnisse abgeleitet werden. Dies können Kundendokumentationen wie KI-Faktenblätter, Beschreibungen von Benutzeroberflächen sowie andere Methoden sein, die die Transparenz fördern und Einblicke liefern, welche Daten für die Generierung der Ergebnisse verwendet werden.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Interpretierbarkeit
Beschreibung für Entwicklung
Achten Sie darauf, die Ergebnisse der KI-Features für Kunden und Anwender möglichst verständlich und klar zu gestalten.
Stellen Sie detaillierte Erläuterungen und unterstützende Materialien in KI-Faktenblättern bereit, um Kunden und Endanwendern die Bedeutung und die Auswirkungen der KI-Ergebnisse im Kontext der jeweiligen Anwendungsfälle zu verdeutlichen.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Hinweise
Beschreibung für Entwicklung
Entwickeln Sie das KI-Feature mit klaren und leicht zugänglichen Hinweisen, die die Endanwender darüber informieren, dass sie mit einer KI-Lösung kommunizieren.
Stellen Sie Orientierungshilfen und eine Standardsprache bereit, mit der Kunden die Art der Daten beschreiben können, die von dem KI-Feature verarbeitet werden.
Der Hinweis kann entweder in Textform oder als Grafik angezeigt werden und muss deutlich machen, dass das Feature KI verwendet und dies bei den Ergebnisse zu berücksichtigen ist.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Menschenzentriertes Design und menschliche Kontrolle
Human-in-the-Loop-Ansatz:
Beschreibung für Entwicklung
Achten Sie bei der Entwicklung des KI-Features darauf, dass Kontrolle durch den Menschen möglich ist. Wir stellen unseren Kunden eine Dokumentation zur Verfügung, in der wir erklären, dass die Ergebnisse des KI-Features menschliche Entscheidungen unterstützen – nicht ersetzen – sollen.
Das Feature sollte auch eine praktische Benutzererfahrung bieten, bei der Menschen die finalen Entscheidung treffen, ob die Ergebnisse des Features akzeptiert oder angepasst werden – untermauert durch Standards für die Erklärbarkeit der Ergebnisse.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Alternative Verfahren
Beschreibung für Entwicklung
Achten Sie bei der Entwicklung des KI-Features darauf, dass gegebenenfalls alternative Datenverarbeitungsprozesse, wie z. B. menschliche Prüfung, zusätzlich zur Standardverarbeitung des KI Features möglich sind. Stellen Sie klare Anweisungen und Dokumentationen für die Kunden bereit, die die Implementierung dieser alternativen Verfahren erläutern.
Beschreibung für Einsatz
Sorgen Sie dafür, dass betroffene Personen – sei es über die Benutzeroberfläche oder andere Kommunikationswege – die Möglichkeit haben, Alternativen zur KI-gestützten Datenverarbeitung und zu individualisierten Ergebnissen zu fordern, beispielsweise eine menschliche statt einer rein maschinellen Prüfung.
Inklusivität
Beschreibung für Entwicklung
Die KI-Funktion wird unter dem Aspekt der Inklusion entwickelt, um sicherzustellen, dass sie für unterschiedliche Endanwender barrierefrei zugänglich und einsetzbar ist. Berücksichtigen Sie Faktoren wie Sprache, Kultur, Behindertenstatus und andere potenzielle Hindernisse für den Zugang und die Anwendung. Die Qualität der Benutzererfahrung sollte unabhängig von den Fähigkeiten und/oder Vorlieben der Anwender nicht beeinträchtigt werden.
Beschreibung für Einsatz
Stellen Sie sicher, dass die KI-Lösung innerhalb ihrer Bedienoberfläche angemessene Optionen bietet. Zugang und Nutzung sollen unterschiedlichen Endanwendern gemäß Chancengleichheit möglich sein.
Integrierte Exporte
Beschreibung für Entwicklung
Stellen Sie den Kunden Zugriffsoptionen für relevante, aus dem KI-Feature exportierte Daten bereit. Dies ermöglicht es den Kunden, gemeinsam mit ihren eigenen Experten Monitoring und Tests durchzuführen, um Transparenz und Kontrolle zu fördern.
Beschreibung für Einsatz
Stellen Sie sicher, dass das Team ausreichende Anweisungen erhält, um das Produkt für die Verwendung zu konfigurieren. Geben Sie dazu Optionen für den Zugriff auf und den Export von Ausgabedaten der KI-Lösung an, die für Performance-Tests der KI-Lösung erforderlich sind.
Konfigurierbarkeit.
Beschreibung für Entwicklung
Achten Sie bei der Entwicklung des KI-Features auf Konfigurierbarkeit, sodass die Kunden dessen Funktionalität an ihre spezifischen Bedürfnisse und Präferenzen anpassen können. Stellen Sie eine leicht verständliche Dokumentation und Tools zur Unterstützung der Kunden bei Konfigurationsentscheidungen bereit. Dies entspricht der Leitlinie früherer Protokolle, die den Menschen in den Mittelpunkt aller Entscheidungen stellen, einschließlich der Entscheidung, wie sie mit den Features der Workday KI-Plattform interagieren.
Beschreibung für Einsatz
Konfigurieren Sie die KI-Lösung entsprechend dem jeweils lokalen Anwendungsfall oder den Anwendungsfällen.
Tests und Monitoring
Fairness-Tests
Beschreibung für Entwicklung
Führen Sie Fairness-Tests für das KI-Feature durch. Für Entwicklungszwecke kann dies je nach Verfügbarkeit anhand von synthetischen Daten oder aggregierten Beispielergebnissen geschehen. Analysieren Sie die Ergebnisse auf mögliche Verzerrungen und dokumentieren Sie die Erkenntnisse und Lösungsstrategien. In unseren Factsheets zu KI-Features fügen wir gegebenenfalls eine Erläuterung und Übersicht der Fairness-Tests auf Entwicklerseite hinzu.
Beschreibung für Einsatz
Für die Implementierung sollten Sie, sofern verfügbar, echte Feature-Ergebnisse verwenden.
Wirksamkeit
Beschreibung für Entwicklung
Testen Sie das KI-Feature sorgfältig, um zu gewährleisten, dass seine Ergebnisse dem Zweck und der Qualität des Anwendungsfalls entsprechen und zuverlässig sind. Dokumentieren Sie die Testmethoden und Ergebnisse und weisen Sie die Fähigkeit der KI nach, korrekte Ergebnisse zu liefern.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Robustheit
Beschreibung für Entwicklung
Testen Sie die Fähigkeit des KI-Features, unter verschiedenen Bedingungen gleichbleibende Performance zu liefern, z. B. bei unterschiedlichen Eingabedaten, Benutzereinstellungen und Populationen. Dokumentieren Sie die Testverfahren und -ergebnisse und weisen Sie nach, dass die KI in der Lage ist, ihre Performance in verschiedenen Szenarien aufrechtzuerhalten.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Geplante Tests
Beschreibung für Entwicklung
Entwickeln und verwalten Sie einen regelmäßigen Zeitplan für Performance-Tests und -Monitoring des KI-Features, z. B. zu Genauigkeit, Robustheit, Nutzen und Fairness. Definieren, implementieren und dokumentieren Sie Testintervall und -verfahren.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Standards für Verwaltung
Beschreibung für Entwicklung
Legen Sie eindeutige Standards und Verfahren für die laufende Verwaltung und Aktualisierung des KI-Features und der zugrunde liegenden ML-Modelle fest. Definieren Sie die Kriterien dafür, wann Updates notwendig sind und wie sie implementiert und kommuniziert werden.
Beschreibung für Einsatz
Dokumentieren Sie Standards, anhand derer Sie bestimmen können, wann und ob die KI-Lösung oder ihre Konfiguration aktualisiert und/oder neu evaluiert werden sollte.
Datenschutz und Sicherheit
Datenqualität
Beschreibung für Entwicklung
Stellen Sie sicher, dass die Daten, die für die Entwicklung des KI-Features verwendet werden, von hoher Qualität, für den beabsichtigten Anwendungsfall oder die Anwendungsfälle geeignet und für die relevanten Populationen repräsentativ sind. Unterstreichen Sie diese Anforderung durch transparente Dokumentationspraktiken, wie z. B. unsere Factsheets zu KI-Features.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Rückverfolgbarkeit
Beschreibung für Entwicklung
Achten Sie bei der Entwicklung des KI-Features darauf, dass es Funktionen für Monitoring und Rückverfolgbarkeit unterstützt.
Beschreibung für Einsatz
Sorgen Sie dafür, dass ein Mechanismus vorhanden ist, der die Überwachung und Rückverfolgbarkeit der Lösung unterstützt.
Standortausschluss
Beschreibung für Entwicklung
Bieten Sie den Kunden die Möglichkeit, die geografische Verfügbarkeit des KI-Features zu steuern. So können Kunden die Verfügbarkeit des KI-Features in verschiedenen Regionen managen und dabei lokale Gesetze und Vorschriften einhalten.
Beschreibung für Einsatz
Ähnlich wie bei Entwicklung
Aktualisierung und Rücknahme
Beschreibung für Entwicklung
Entwickeln Sie einen umfassenden Change Management-Plan für Updates des KI-Features und der zugrunde liegenden ML-Modelle. Dieser Plan sollte Kommunikationsprotokolle enthalten, um Kunden über Updates und mögliche Auswirkungen auf die Verwendung des Features zu informieren.
Beschreibung für Einsatz
Entwickeln und dokumentieren Sie einen spezifischen Change Management-Plan für Updates der KI-Lösung oder deren Konfiguration.
Wirksamkeitsmanagement
Beschreibung für Entwicklung
Entwickeln Sie das KI-Feature mit Schutzmechanismen, um potenzielle Schwachstellen und Risiken in Bezug auf seine Wirksamkeit zu minimieren. Dazu gehört auch der Schutz vor feindlichen Angriffen, dem absichtlichen Einspeisen manipulierter Daten und anderen Versuchen, die KI-Lösung zu missbrauchen oder zu untergraben.
Beschreibung für Einsatz
Sorgen Sie dafür, dass Schwachstellen durch menschliche Fehler von Endanwendern und feindliche Akteure, die die KI-Lösung oder unser geistiges Eigentum manipulieren oder gefährden wollen, identifiziert, minimiert und beseitigt werden.