Pratiques responsables en matière d’IA
Une IA conçue de manière responsable. Des solutions fiables.
Nous développons des fonctionnalités d’IA de manière responsable dès leur conception, ce qui nous permet de fournir à nos clients les outils et les capacités dont ils ont besoin pour déployer, configurer et utiliser l’IA en toute confiance pour atteindre leurs objectifs.
L’IA responsable chez Workday
Workday est un chef de file du secteur en matière de gouvernance responsable de l’IA et nous voulons que notre IA soit une force positive. C’est pourquoi nous évaluons et gérons minutieusement les risques liés à l’IA. Notre équipe collabore avec Workday pour s’assurer que notre IA est conçue pour respecter les droits de la personne et la sécurité, et qu’elle profite réellement à la société en mettant en œuvre une IA responsable dès sa conception.
Nous avons établi un partenariat proactif avec Coalfire, un chef de file de la cybersécurité, pour évaluer nos processus d’IA par rapport au cadre de gestion des risques de l’IA du NIST, et avec Schellman pour certifier notre programme selon les normes ISO 42001. Ces évaluations indépendantes valident notre engagement envers les normes les plus élevées en matière d’IA responsable, ce qui comprend les contrôles de sécurité et de confidentialité de l’IA.
Évaluation rigoureuse des risques.
Toutes les IA ne sont pas identiques lorsqu’il s’agit des risques pour les droits et la sécurité de la personne. Notre première étape consiste toujours à effectuer une évaluation minutieuse des risques. Cela nous aide à nous concentrer sur les éléments potentiellement préoccupants et nous permet de nous assurer que toute notre IA, qu’elle soit destinée aux clients ou à nos propres équipes, est responsable et éthique.
Il existe plusieurs points de contrôle dans ce processus, et nous examinons nos cas d’utilisation de l’IA au moins deux fois, soit pendant la conception, puis avant qu’elle soit utilisée. Cela nous aide à détecter rapidement tout problème potentiel. Nous élaborons ensuite des plans clairs en réponse à ces différentes préoccupations, selon notre rôle, soit développer l’IA ou la déployer.
Comment nous évaluons le risque.
Le niveau est déterminé par des facteurs comme la capacité du produit à effectuer des prédictions ou des catégorisations relatives aux travailleurs individuels, son impact potentiel, qu’il soit primaire ou secondaire, sur leurs occasions économiques, ainsi que d’autres aspects relatifs aux caractéristiques ou au contexte de l’IA utilisée. Nous tenons aussi compte du « risque interdit » dans cette évaluation afin d’identifier les cas d’utilisation qui ne relèvent pas de notre structure de gouvernance approuvée en raison des dommages qui pourraient être causés aux personnes ou des menaces aux droits humains fondamentaux.
Chaque niveau de risque est associé à un ensemble particulier de protocoles ou de normes afin d’atténuer ces risques. Les fonctionnalités d’IA à haut risque sont soumises à des exigences plus rigoureuses et mises en correspondance avec un plus grand nombre de protocoles. Cela garantit que le niveau de surveillance est proportionnel aux risques encourus pendant la mise en service du produit.
Que nous concevions l’IA ou que nous l’utilisions, nos évaluations seront adaptées en conséquence. Cela nous aide à anticiper, à détecter les problèmes potentiels à un stade précoce et à nous assurer que notre IA est développée et utilisée de manière sécuritaire et responsable. Nos politiques internes définissent plus en détail les cas d’utilisation et les rôles auxquels l’IA doit obligatoirement se conformer, ainsi que nos responsabilités envers l’IA, en plus de décrire le calendrier et les exigences spécifiques pour effectuer l’évaluation des risques en matière d’IA responsable.
Notre engagement envers une IA responsable.
L’utilisation responsable de l’IA représente un processus continu. Nous nous engageons à surveiller en permanence l’évolution des tendances réglementaires, des attentes sociétales et des cadres de pratiques exemplaires. Notre équipe continue de faire évoluer activement ses pratiques et ses programmes pour s’assurer que notre approche du développement et du déploiement de l’IA demeure juste, fiable, éthique et harmonisée avec les normes les plus élevées de l’IA responsable.
Nous sommes guidés par des cadres de gouvernance de l’IA tels que le cadre de gestion des risques de l’IA du NIST (AI RMF). Nous procédons également à une évaluation continue des réglementations actuelles et en cours d’élaboration par rapport à notre programme et à nos pratiques en matière d’IA responsable, notamment la loi européenne sur l’IA, la loi du Colorado sur l’IA et d’autres réglementations et cadres directeurs émergents au niveau local, provincial, national et international.
Chez Workday, nous accordons la priorité à la transparence et nous assurons de fournir des informations claires pour soutenir la prise de décision. Nous décrivons ci-dessous les principaux protocoles d’IA responsables que nous avons adoptés pour une gouvernance basée sur les risques dans notre cycle de vie de l’IA. Nous communiquons ensuite ces protocoles à nos équipes de développement et de déploiement de l’IA en fonction du niveau de risque du cas d’utilisation, comme cela est décrit ci-dessus.
Responsabilité de l’IA
Identification des risques.
Description du développement.
Déterminez et évaluez de manière proactive le niveau de risque global du produit ou de la fonctionnalité.
Cela inclut les risques éthiques, sociaux et techniques inhérents au cas d’utilisation et aux caractéristiques prévus de la fonctionnalité d’IA, ce qui nous permet d’atténuer les dommages potentiels en aval de la production avant qu’ils ne surviennent.
Nous faisons cela non seulement pour comprendre les risques, mais aussi les avantages possibles de ce qui peut se produire lorsque tout est bien fait, sans oublier la manière de fournir ces fonctionnalités en toute sécurité.
Description du déploiement.
Similaire au développement.
Rôles et responsabilités
Description du développement.
Définissez clairement les rôles et responsabilités des différentes équipes qui prennent part au développement des fonctionnalités de l’IA. Par exemple, Produit et technologie, Ingénierie de l’apprentissage automatique, Affaires juridiques et conformité, Confidentialité, etc. Cela garantit la responsabilité, la collaboration et la diversité des contributions pendant tout le cycle de développement de l’IA.
Cela permet également de développer naturellement le réseau d’experts auxquels les nouvelles équipes peuvent faire appel pour obtenir des réponses à leurs questions et de l’aide lorsqu’elles naviguent dans la structure de gouvernance.
Enfin, cela permet une contribution structurée au cadre de gouvernance de l’IA responsable à mesure que de nouveaux cas extrêmes sont découverts et que l’entreprise évolue, change et se développe.
Description du déploiement.
Similaire au développement.
Preuve d’utilité.
Description du développement.
Rassemblez et documentez les informations montrant l’utilité de la fonctionnalité d’IA. Cela devrait démontrer comment la fonctionnalité atteint son objectif et apporte de la valeur aux utilisateurs.
En d’autres termes, la fonctionnalité d’IA ajoute-t-elle une valeur significative pour les utilisateurs?
Description du déploiement.
Similaire au développement.
Transparence et explicabilité.
Explicabilité.
Description du développement.
Fournissez des explications claires sur le fonctionnement de la fonctionnalité d’IA et sur la façon dont les résultats sont obtenus. Il peut s’agir de documentation destinée aux clients, telle que des fiches d’information sur l’IA, des descriptions de l’interface utilisateur et d’autres méthodes visant à promouvoir la transparence et la compréhension des données utilisées pour générer les résultats.
Description du déploiement.
Similaire au développement.
Interprétabilité.
Description du développement.
Veillez à ce que les résultats des fonctionnalités d’IA soient aussi compréhensibles et clairs que possible pour les clients et les utilisateurs.
Fournissez des explications claires et des documents justificatifs dans les fiches d’information sur l’IA pour aider les clients et les utilisateurs finaux à comprendre la signification et les répercussions des résultats de l’IA dans le contexte du ou des cas d’utilisation prévus.
Description du déploiement.
Similaire au développement.
Avis.
Description du développement.
Concevez la fonctionnalité d’IA avec des avis clairs et accessibles informant les utilisateurs finaux qu’ils interagissent avec un système d’IA.
Fournissez des conseils et une langue par défaut que les clients peuvent utiliser pour décrire le type de données traitées par la fonctionnalité d’IA.
L’avis peut être affiché sous forme de texte ou d’image indiquant que la fonctionnalité utilise l’IA et que ses résultats doivent être examinés en tant que tels.
Description du déploiement.
Similaire au développement.
Conception et contrôle centrés sur la personne.
L’humain au cœur du processus.
Description du développement.
Concevez la fonctionnalité d’IA afin qu’elle prenne en charge la surveillance et le contrôle par des humains. Nous fournissons aux clients une documentation expliquant comment les résultats des fonctionnalités d’IA sont destinés à soutenir, et non à remplacer, la prise de décision humaine conséquente.
La fonctionnalité doit également intégrer une expérience utilisateur pratique dans laquelle les humains sont les décideurs finaux pour les décisions essentielles, que les résultats de la fonctionnalité soient acceptés ou ajustés, renforcés par des normes d’explicabilité dans ses résultats.
Description du déploiement.
Similaire au développement.
Autres procédures.
Description du développement.
Concevez la fonctionnalité d’IA de manière à permettre des procédures de traitement d’autres données, telles que l’examen par des humains, au traitement standard de la fonctionnalité d’IA, le cas échéant. Fournissez des instructions et une documentation claires aux clients sur la manière de mettre en œuvre ces autres procédures.
Description du déploiement.
Veuillez vous assurer que les personnes concernées par les données ont accès à différentes options dans l’interface utilisateur ou ailleurs. Cela peut notamment se faire par des communications avec les personnes concernées pour leur permettre de demander des procédures autres que celles utilisées par la solution d’IA pour traiter leurs données et afficher des résultats personnalisés. Ces autres procédures peuvent également inclure un examen par des humains plutôt qu’un examen uniquement effectué par des machines.
Inclusivité.
Description du développement.
Concevez la fonctionnalité d’IA dans un souci d’inclusivité, en vous assurant qu’elle soit accessible et utilisable par différents utilisateurs finaux. Tenez compte de facteurs comme la langue, la culture, le statut de handicap et d’autres obstacles potentiels à l’accès et à l’engagement. Veillez à ce que la qualité de l’expérience utilisateur ne soit pas diminuée, quelles que soient les capacités ou les préférences.
Description du déploiement.
Assurez-vous que la solution d’IA offre des options raisonnables dans l’interface utilisateur de la solution d’IA. Cela permet aux différents utilisateurs finaux d’y accéder et de l’utiliser de manière à promouvoir l’équité.
Exportations intégrées.
Description du développement.
Offrez aux clients des options pour accéder aux données exportées pertinentes à partir de la fonctionnalité d’IA. Cela leur permet d’effectuer leurs propres contrôles et tests avec leurs propres experts, ce qui favorise la transparence et le contrôle.
Description du déploiement.
Veillez à ce que l’équipe responsable de la configuration du produit reçoive des instructions suffisantes pour préciser les options permettant d’accéder aux données de sortie de la solution d’IA nécessaires et de les exporter pour tester les performances de cette dernière.
Configurabilité.
Description du développement.
Concevez la fonctionnalité d’IA en gardant la configurabilité à l’esprit, pour ainsi permettre aux clients d’adapter ses fonctionnalités à leurs besoins et préférences particuliers. Fournissez une documentation et des outils clairs pour soutenir les décisions de configuration des clients. Cela respecte l’esprit des protocoles précédents, en gardant les humains au centre de toutes les décisions, y compris la manière dont ils choisissent d’utiliser les fonctionnalités de la plateforme Workday AI.
Description du déploiement.
Configurez la solution d’IA pour qu’elle corresponde aux cas d’utilisation locaux prévus.
Tests et surveillance.
Test d’équité.
Description du développement.
Effectuez des tests d’équité sur la fonctionnalité d’IA. Pour le développement, cela peut être effectué en utilisant des données synthétiques ou des échantillons agrégés de résultats, selon la disponibilité. Analysez les résultats pour détecter d’éventuels biais et documenter les conclusions et les stratégies d’atténuation. Nous incluons un résumé descriptif des tests d’équité côté développeur, le cas échéant, dans nos fiches d’information sur les fonctionnalités de l’IA.
Description du déploiement.
Pour le déploiement, pensez à utiliser les résultats réels des fonctionnalités lorsqu’ils sont disponibles.
Efficacité.
Description du développement.
Testez rigoureusement la fonctionnalité d’IA pour s’assurer que ses résultats sont prévus et fiables par rapport à son objectif et à la qualité du cas d’utilisation. Documentez la méthodologie et les résultats des tests, démontrant la capacité de l’IA à produire des résultats précis.
Description du déploiement.
Similaire au développement.
Robustesse.
Description du développement.
Testez la capacité de la fonctionnalité IA à maintenir ses performances dans diverses conditions, telles que différentes données d’entrée, différents paramètres utilisateur et différentes populations. Documentez les procédures et les résultats des tests, démontrant la capacité de l’IA à maintenir son niveau de performance dans différents scénarios.
Description du déploiement.
Similaire au développement.
Tests planifiés.
Description du développement.
Établissez et respectez un calendrier régulier pour tester et surveiller les performances de la fonctionnalité d’IA, notamment en termes de précision, de robustesse, d’utilité et d’équité. Définissez, mettez en œuvre et documentez la fréquence et les procédures des tests.
Description du déploiement.
Similaire au développement.
Normes d’entretien.
Description du développement.
Établissez des normes et des procédures claires pour la maintenance et la mise à jour continues de la fonctionnalité d’IA et de ses modèles d’apprentissage automatique sous-jacents. Définissez les critères utilisés pour déterminer à quel moment les mises à jour sont nécessaires et comment elles seront mises en œuvre et communiquées.
Description du déploiement.
Documentez les normes à utiliser pour déterminer à quel moment et si la solution d’IA ou sa configuration doit être mise à jour ou réévaluée.
Confidentialité et sécurité.
Qualité des données.
Description du développement.
Assurez-vous que les données utilisées pour développer la fonctionnalité d’IA sont de haute qualité, adaptées aux cas d’utilisation prévus et représentatives des populations concernées. Démontré par des pratiques de documentation transparentes telles que nos fiches d’information sur les fonctionnalités de l’IA.
Description du déploiement.
Similaire au développement.
Traçabilité.
Description du développement.
Concevez la fonctionnalité d’IA afin qu’elle prenne en charge les capacités de surveillance et de traçabilité du système.
Description du déploiement.
Assurez-vous qu’un mécanisme est en place pour soutenir la surveillance et la traçabilité du système.
Exclusion de localisation.
Description du développement.
Offrez aux clients la possibilité de contrôler la disponibilité géographique de la fonctionnalité d’IA. Cela permet aux clients de se conformer aux lois et aux réglementations locales pour ainsi gérer la disponibilité de la fonctionnalité d’IA dans différentes régions.
Description du déploiement.
Similaire au développement.
Mise à jour et retrait.
Description du développement.
Élaborez un plan complet de gestion des changements pour les mises à jour de la fonctionnalité d’IA et de ses modèles d’apprentissage automatique sous-jacents. Ce plan doit comprendre des protocoles de communication pour informer les clients des mises à jour et de toute répercussion potentielle sur leur utilisation de la fonctionnalité.
Description du déploiement.
Développez et documentez un plan de gestion des changements précis pour les mises à jour de la solution d’IA ou de sa configuration.
Gestion de l’efficacité.
Description du développement.
Concevez la fonctionnalité d’IA avec des mesures de protection pour atténuer les vulnérabilités et les risques pour son efficacité. Cela comprend la protection contre les attaques adverses, l’empoisonnement de données ainsi que d’autres tentatives pour exploiter ou miner le système d’IA.
Description du déploiement.
Veiller à ce que les vulnérabilités liées aux erreurs humaines des utilisateurs finaux et aux acteurs malveillants cherchant à « manipuler » ou à compromettre la solution d’IA ou la sécurité de notre propriété intellectuelle soient identifiées, atténuées et gérées.