Odpowiedzialne praktyki dotyczące AI
Odpowiedzialnie tworzona AI, i rozwiązania, którym możesz zaufać
Od samego początku rozwijamy funkcje AI w sposób odpowiedzialny, zapewniając naszym klientom narzędzia i możliwości, których potrzebują do wdrażania, konfigurowania i skutecznego wykorzystywania AI do osiągania celów.
Odpowiedzialne wykorzystanie AI w Workday
Workday jest w swojej branży liderem w zakresie odpowiedzialnego wykorzystania AI. Chcemy, aby nasza sztuczna inteligencja była siłą napędową pozytywnych zmian. Dlatego dokładnie oceniamy ryzyko związane z AI i zarządzamy nim. Nasz zespół współpracuje ze wszystkimi podmiotami w Workday, aby zagwarantować, że nasze systemy sztucznej inteligencji zostały opracowane z poszanowaniem praw człowieka i zasad bezpieczeństwa, oraz że przynoszą realne korzyści społeczeństwu, dzięki przestrzeganiu zasad odpowiedzialnego podejścia do AI już w fazie projektowania.
Nawiązaliśmy aktywną współpracę z firmą Coalfire, która jest liderem w dziedzinie cyberbezpieczeństwa, aby oceniać nasze procesy AI z użyciem ramowego systemu zarządzania ryzykiem AI opracowanego przez Narodowy Instytut Standaryzacji i Technologii w USA (NIST), a także z firmą Schellman, aby certyfikować nasz program zgodnie z normami ISO 42001. Te niezależne oceny potwierdzają nasze zaangażowanie w przestrzeganie najwyższych standardów odpowiedzialnego wykorzystania AI, w tym kontroli bezpieczeństwa i ochrony prywatności.
Kompleksowa ocena ryzyka
Systemy AI różnią się między sobą pod kątem zagrożeń dla praw i bezpieczeństwa ludzi. Naszym pierwszym krokiem jest zawsze dokładna ocena ryzyka. Dzięki temu możemy skupić się na obszarach budzących obawy. Zapewniamy w ten sposób, że nasza sztuczna inteligencja – czy to przeznaczona dla klientów, czy dla naszych własnych zespołów – jest wykorzystywana odpowiedzialnie i etycznie.
Proces ten obejmuje szereg punktów kontrolnych, a nasze przypadki użycia AI sprawdzamy co najmniej dwa razy: raz podczas ich tworzenia i ponownie przed ich użyciem. Dzięki temu możemy wykryć wszelkie potencjalne problemy na wczesnym etapie. Następnie tworzymy przejrzyste plany ich rozwiązywania, zarówno na etapie projektowania systemów AI, jak i ich wdrażania.
Jak oceniamy ryzyko?
Poziom ryzyka jest określany na podstawie różnych czynników, w tym zdolności systemu AI do przewidywania lub kategoryzacji w odniesieniu do poszczególnych pracowników, jego potencjalnego pierwotnego lub wtórnego wpływu na ich możliwości zarobkowe i zawodowe oraz dodatkowych aspektów związanych z charakterystyką lub kontekstem korzystania z AI. W ocenie uwzględniamy również „ryzyko niedozwolone”, aby rozpoznać te przypadki użycia, które wykraczają poza naszą zatwierdzoną strukturę zarządzania ryzykiem ze względu na potencjalne szkody, które mogą zostać wyrządzone ludziom lub zagrożenia dla podstawowych praw człowieka.
Poszczególne poziomy ryzyka są przypisane do określonego zestawu protokołów lub standardów w celu zminimalizowania ryzyka. Funkcje AI o wyższym ryzyku podlegają bardziej rygorystycznym wymaganiom i większej liczbie protokołów. Gwarantuje to, że poziom nadzoru jest proporcjonalny do potencjalnego zagrożenia związanego z użytkowaniem produktu.
Niezależnie od tego, czy tworzymy sztuczną inteligencję, czy z niej korzystamy, nasze oceny są dostosowane do sytuacji. Pomaga nam to patrzeć w przyszłość, wcześnie wychwytywać potencjalne problemy i dbać, aby nasza sztuczna inteligencja była opracowywana i wykorzystywana bezpiecznie i odpowiedzialnie. Nasze wewnętrzne zasady dodatkowo precyzują zabronione przypadki użycia AI oraz role i obowiązki, a także określają konkretne terminy i wymagania dotyczące przeprowadzania oceny ryzyka według modelu RAI.
Zaangażowanie w odpowiedzialne wykorzystanie AI
Odpowiedzialne wykorzystanie AI to nieustająca podróż. Dokładamy wszelkich starań, aby stale monitorować zmieniające się trendy regulacyjne, oczekiwania społeczne i najlepsze praktyki. Nasz zespół aktywnie rozwija własne praktyki i programy, dzięki czemu nasze podejście do opracowywania i wdrażania sztucznej inteligencji pozostaje uczciwe, niezawodne, etyczne i zgodne z najwyższymi standardami odpowiedzialnego wykorzystania sztucznej inteligencji.
Kierujemy się systemami zarządzania odpowiedzialnym wykorzystaniem AI, takimi jak ramowy system zarządzania ryzykiem AI opracowany przez NIST. Angażujemy się również w ciągłą ewaluację istniejących i projektowanych przepisów dotyczących naszego programu i praktyk RAI, w tym unijnej ustawy o sztucznej inteligencji, ustawy o sztucznej inteligencji stanu Kolorado oraz innych nowych regulacji na szczeblu stanowym, lokalnym, krajowym oraz międzynarodowym.
W Workday priorytetem jest przejrzystość – dostarczanie zrozumiałych informacji wspierających podejmowanie decyzji. Poniżej opisujemy najważniejsze protokoły odpowiedzialnego wykorzystania AI, które przyjęliśmy w celu zarządzania ryzykiem w naszym cyklu życia systemu sztucznej inteligencji, i które udostępniamy zespołom ds. projektowania oraz ds. wdrażania AI na podstawie opisanego wyżej poziomu ryzyka danego przypadku użycia.
Odpowiedzialne wykorzystanie AI
Rozpoznawanie ryzyka
Projektowanie
Proaktywnie rozpoznawaj i oceniaj poziom ryzyka związany z działaniem produktu lub funkcji.
Ryzyko to obejmuje czynniki etyczne, społeczne i techniczne związane z zamierzonym przypadkiem użycia i charakterystyką funkcji AI, co pozwala nam z wyprzedzeniem zminimalizować potencjalne szkody w łańcuchu produkcyjnym.
Naszym celem jest rozpoznanie nie tylko potencjalnych zagrożeń, ale też możliwych korzyści z właściwego wykorzystania AI, jak również wyznaczenie ścieżki bezpiecznego wdrażania systemu AI.
Wdrażanie
Podobnie jak w fazie projektowania.
Role i obowiązki
Projektowanie
Zdefiniuj role i obowiązki poszczególnych zespołów biorących udział w tworzeniu funkcji AI, na przykład zespołu ds. produktu i technologii, zespołu ds. inżynierii uczenia maszynowego, zespołu ds. prawa i regulacji czy zespołu ds. ochrony danych osobowych. Jasny podział ról to łatwość wykazania, kto i za co odpowiada, dobra współpraca oraz różnorodność danych wejściowych w całym cyklu rozwoju AI.
Dodatkowo, dzięki takiemu podejściu naturalnie zwiększa się sieć ekspertów, do których nowe zespoły mogą zwracać się z pytaniami, aby lepiej poznać i zrozumieć strukturę zarządzania.
Jeszcze jedna korzyść to uporządkowany wkład w system zarządzania odpowiedzialnym wykorzystaniem AI w razie pojawienia się nowych nietypowych przypadków, a także wraz ze zmianami w działalności i rozwojem firmy.
Wdrażanie
Podobnie jak w fazie projektowania.
Dowody użyteczności
Projektowanie
Zbieraj i dokumentuj informacje przedstawiające użyteczność funkcji AI. Powinny one wskazywać, w jaki sposób funkcja osiąga zamierzony cel i zapewnia wartość użytkownikom.
Innymi słowy, powinny odpowiadać na pytanie, czy funkcja AI znacząco zwiększa wartość dla użytkowników.
Wdrażanie
Podobnie jak w fazie projektowania.
Przejrzystość działania systemu
Przejrzystość działania systemu
Projektowanie
Objaśnij sposób działania funkcji AI i sposobu generowania przez nią wyników. Możesz tu uwzględnić dokumentację dla klientów, np. w formie arkuszy informacyjnych AI, opisów interfejsu użytkownika i innych metod umożliwiających zachowanie przejrzystości i wyjaśnienie, jakie dane są używane do generowania wyników.
Wdrażanie
Podobnie jak w fazie projektowania.
Zrozumiałość
Projektowanie
Postaraj się, aby dane będące wynikiem działania systemu AI były jak najbardziej zrozumiałe i przejrzyste dla klientów oraz użytkowników.
Zapewnij przejrzyste wyjaśnienia i materiały pomocnicze w arkuszach informacyjnych AI, aby pomóc klientom i użytkownikom końcowym zrozumieć znaczenie i następstwa wyników wygenerowanych przez system AI w kontekście zamierzonych przypadków użycia.
Wdrażanie
Podobnie jak w fazie projektowania.
Powiadomienia
Projektowanie
Zaprojektuj funkcję AI z przejrzystymi i dostępnymi informacjami dla użytkowników końcowych, że wchodzą w interakcję z systemem AI.
Podaj zalecenia i domyślny język, w którym klienci mogą opisywać typ danych przetwarzanych przez system AI.
Powiadomienie może pojawić się w formie tekstu lub grafiki, wskazując, że funkcja wykorzystuje AI, a uzyskane przy jej pomocy wyniki należy odpowiednio interpretować.
Wdrażanie
Podobnie jak w fazie projektowania.
Projektowanie i sterowanie zorientowane na człowieka
Udział człowieka
Projektowanie
Zaprojektuj funkcję AI tak, aby wspierać nadzór i kontrolę ze strony człowieka. Zapewniamy klientom dokumentację, która wyjaśnia, w jaki sposób wyniki funkcji AI mają wspierać, a nie zastępować, podejmowanie decyzji przez człowieka.
Funkcja powinna również obejmować praktyczne środowisko użytkownika, w którym ludzie mają ostatnie słowo w przypadku strategicznych decyzji, a sugerowane przez nią wyniki powinny spełniać standardy przejrzystości, niezależnie od tego, czy są akceptowane czy korygowane.
Wdrażanie
Podobnie jak w fazie projektowania.
Procedury alternatywne
Projektowanie
Zaprojektuj funkcję AI w taki sposób, aby w razie potrzeby można było używać alternatywnych w stosunku do niej procedur przetwarzania danych, np. weryfikacji danych przez człowieka. Podaj klientom wyraźne instrukcje i dostarcz dokumentację na temat wdrażania alternatywnych procedur.
Wdrażanie
Upewnij się, że osobom, których dotyczą dane, zapewniono możliwość wyboru w interfejsie użytkownika lub w innych miejscach (na przykład w trakcie komunikacji z takimi osobami) procedur alternatywnych w stosunku do systemu AI przetwarzającego ich dane i przedstawiającego spersonalizowane wyniki. Alternatywą do w pełni automatycznego przetwarzania danych może być weryfikacja danych przez człowieka.
Inkluzywność
Projektowanie
Zaprojektuj funkcję sztucznej inteligencji z uwzględnieniem różnorodności ludzi, zapewniając jej dostępność i użyteczność dla różnych grup użytkowników końcowych. Weź pod uwagę takie czynniki jak język, kultura, stopień niepełnosprawności i inne potencjalne ograniczenia dostępu oraz możliwości zaangażowania. Zapewnij wysoką jakość korzystania z AI niezależnie od możliwości i/lub preferencji użytkownika.
Wdrażanie
Sprawdź, czy rozwiązanie AI oferuje odpowiednie opcje w interfejsie użytkownika. W ten sposób zapewnisz różnym grupom użytkowników końcowych równy dostęp i jednakowe możliwości korzystania z AI.
Wbudowany eksport danych
Projektowanie
Zapewnij klientom dostęp do odpowiednich danych wyeksportowanych z systemu AI. Dzięki temu będą mogli samodzielnie monitorować i testować AI z udziałem własnych ekspertów, dbając o jej przejrzystość i kontrolę nad nią.
Wdrażanie
Zadbaj o to, aby zespół zajmujący się konfiguracją produktu otrzymał instrukcje określania opcji dostępu i eksportu danych wyjściowych z systemu AI, które są wymagane do testowania jego wydajności.
Możliwość konfigurowania
Projektowanie
Zaprojektuj funkcję AI z myślą o określaniu jej ustawień, umożliwiając klientom dostosowanie jej działania do ich potrzeb i preferencji. Zapewnij przejrzystą dokumentację i narzędzia wspierające decyzje klientów w zakresie konfiguracji. Jest to zgodne z duchem poprzednich protokołów i stawia człowieka w centrum wszystkich decyzji, w tym o wyborze sposobu korzystania z funkcji platformy AI Workday.
Wdrażanie
Skonfiguruj rozwiązanie AI tak, aby pasowało do lokalnych scenariuszy jego wykorzystania.
Testowanie i monitorowanie
Testowanie bezstronności
Projektowanie
Przeprowadź testy bezstronności funkcji AI. Na etapie tworzenia narzędzi można to osiągnąć przy pomocy danych syntetycznych lub zagregowanych próbek danych wyjściowych, w zależności od tego, jakie dane są dostępne. Przeanalizuj wyniki pod kątem potencjalnych uprzedzeń, udokumentuj swoje ustalenia oraz strategie minimalizowania ryzyka. W stosownych przypadkach w naszych arkuszach informacyjnych dotyczących funkcji AI zamieszczamy podsumowanie testów bezstronności przeprowadzanych przez deweloperów.
Wdrażanie
Rozważ skorzystanie z rzeczywistych wyników wygenerowanych przez AI, jeśli są dostępne.
Skuteczność
Projektowanie
Dokładnie przetestuj funkcję AI, aby mieć pewność, że wyniki jej działania są zgodne z oczekiwaniami i wiarygodne w odniesieniu do celu i jakości przypadku użycia. Udokumentuj metodologię testowania i jego rezultaty, wykazując zdolność AI do generowania dokładnych wyników.
Wdrażanie
Podobnie jak w fazie projektowania.
Niezawodność
Projektowanie
Przetestuj zdolność systemu AI do utrzymania odpowiedniej jakości działania w różnych warunkach, takich jak różne dane wejściowe, ustawienia użytkownika i populacje. Udokumentuj procedury i wyniki testowania, wykazując zdolność AI do utrzymania wydajności w różnych scenariuszach.
Wdrażanie
Podobnie jak w fazie projektowania.
Planowanie testów
Projektowanie
Opracuj harmonogram testowania i monitorowania działania systemu AI, w tym jego dokładności, niezawodności, użyteczności i bezstronności, a następnie go przestrzegaj. Określ, wdróż i udokumentuj procedury testowania oraz jego częstotliwość.
Wdrażanie
Podobnie jak w fazie projektowania.
Standardy konserwacji
Projektowanie
Określ przejrzyste standardy i procedury bieżącej konserwacji i aktualizacji funkcji AI oraz leżących u jej podstaw modeli uczenia maszynowego. Zdefiniuj kryteria określające, kiedy i w jaki sposób należy wprowadzać aktualizacje oraz w jaki sposób o nich informować.
Wdrażanie
Udokumentuj standardy, które będą określać, kiedy i czy system AI lub jego konfiguracja powinny być aktualizowane i/lub ponownie weryfikowane.
Prywatność i bezpieczeństwo
Jakość danych
Projektowanie
Zadbaj, aby dane użyte do opracowania funkcji AI były wysokiej jakości, odpowiednie dla zamierzonych przypadków użycia i reprezentatywne dla odpowiednich populacji. Stosuj przejrzyste praktyki sporządzania dokumentacji, takie jak nasze arkusze informacyjne systemu AI.
Wdrażanie
Podobnie jak w fazie projektowania.
Możliwość prześledzenia procesu
Projektowanie
Zaprojektuj funkcję AI w taki sposób, aby umożliwić śledzenie danych i procesu.
Wdrażanie
Zapewnij mechanizm wspierający monitorowanie systemu i możliwość śledzenia procesów.
Wykluczenie określonych lokalizacji geograficznych
Projektowanie
Zapewnij klientom możliwość kontrolowania dostępności funkcji AI zależnie od położenia geograficznego. To pozwoli im zachować zgodność z lokalnymi przepisami i regulacjami w zakresie zarządzania dostępnością funkcji AI.
Wdrażanie
Podobnie jak w fazie projektowania.
Aktualizacja i wycofanie
Projektowanie
Opracuj kompleksowy plan zarządzania zmianami dotyczący aktualizacji funkcji AI i modeli ML, na których się opiera. Powinien on obejmować protokoły komunikacji mające na celu informowanie klientów o aktualizacjach i ich potencjalnym wpływie na korzystanie przez nich z systemu AI.
Wdrażanie
Opracuj i udokumentuj określony plan zarządzania zmianami dotyczący aktualizacji lub konfiguracji systemu AI.
Zarządzanie skutecznością
Projektowanie
Zaprojektuj system AI z uwzględnieniem zabezpieczeń, które zminimalizują potencjalne czynniki zagrażające jego skuteczności. Chodzi tu o ochronę przed atakami kontradyktoryjnymi, zatruwaniem danych i innymi próbami nadużycia lub osłabienia systemu sztucznej inteligencji.
Wdrażanie
Sprawdź, czy rozpoznawane są słabe miejsca systemu podatne na błędy użytkowników końcowych oraz na działania osób próbujących manipulować sztuczną inteligencją lub w inny sposób zagrażać jej bezpieczeństwu bądź bezpieczeństwu naszej własności intelektualnej. Sprawdź też, czy podejmowane są działania w kierunku zminimalizowania ryzyka związanego z wykrytymi słabościami.