Kolejny specjalista od etyki w AI zwolniony z Google. Sztuczna inteligencja nie musi być etyczna?

Google nie ma szczęścia do specjalistów od sztucznej inteligencji. Już drugi raz w ciągu zaledwie trzech miesięcy badaczka etyki w AI twierdzi, że Google ją zwolnił. Margaret Mitchell twierdzi, że została wyrzucona z firmowego laboratorium AI, Google Brain, gdzie wcześniej współprowadziła grupę zajmującą się etycznym podejściem do sztucznej inteligencji. Jej była współprzewodnicząca, Timnit Gebru, odeszła z Google w grudniu. W okolicznościach budzących spore wątpliwości co do kultury pracy, jaka zapanowała w Mountain View w ostatnich latach.

Gebru, jak twierdzi, została zwolniona, po tym jak odmówiła wycofania lub usunięcia swojego nazwiska z artykułu, w którym zalecano ostrożność w przypadku systemów AI służących do  przetwarzania tekstu, w tym technologii używanej przez Google w swojej wyszukiwarce. To i tak brzmi źle, ale na tym sprawa się nie kończy. Gebru twierdzi bowiem, że spór mógł zostać wykorzystany jako pretekst, a prawdziwym powodem zwolnienia miała być jej krytyka sposobu, w jaki Google traktuje czarnoskórych pracowników i kobiety.

Mitchell o tym, ze została zwolniona, dowiedziała się, z maila, w piątek po południu, a jej zespół poinformowano, że nie wróci po zawieszeniu, które rozpoczęło się w zeszłym miesiącu. Sama zainteresowana w trzech słowach dała o tym znać światu:

I'm fired.

— MMitchell (@mmitchell_ai) February 19, 2021

Mitchell napisała dalej, że po jej krytyce wobec Google firma zablokowała jej konta służbowe w styczniu. Według Axiosa, Google zrobił to po tym, jak odkrył, że Mitchell używa „automatycznych skryptów” do wyszukiwania przykładów dyskryminacji w firmie za czasów dr Gebru.

I am concerned about @timnitGebru 's firing from Google and its relationship to sexism and discrimination. I wanted to share the email I wrote to Google press the day my access was cut off.https://t.co/O7JPlqJW8L

— MMitchell (@mmitchell_ai) February 5, 2021

Co na to Google? Firma twierdzi, że Mitchell udostępniła „poufne poufne dokumenty biznesowe i prywatne dane innych pracowników” na zewnątrz firmy. 

Po dokonaniu przeglądu postępowania tego menedżera potwierdziliśmy, że doszło do wielu naruszeń naszego kodeksu postępowania, a także naszych zasad bezpieczeństwa, w tym wyprowadzenia poufnych dokumentów biznesowych i danych osobowych innych pracowników

Sprawa więc wygląda jednak mocno niepokojąco. Gebru, Mitchell i cały zespół ds. etycznej sztucznej inteligencji w Google prowadzili badania nad rozwojem AI, starając się zrozumieć i złagodzić potencjalne wady sztucznej inteligencji. Przyczynili się m.in. do decyzji ograniczeniu niektórych funkcjonalności związanych z np. funkcję rozpoznawania obrazów, która próbowała identyfikować płeć ludzi na zdjęciach. 

Odejścia obu kobiet z firmy zwróciły więc uwagę na napięcia nieodłącznie związane z firmami poszukującymi sposobów na monetyzację rozwiązań opartych na sztucznej inteligencji. Eksperci badający, jakie ograniczenia należałoby nałożyć na tę technologię, potencjalnie bowiem mogliby blokować nowych strumienie firmowych przychodów.

Już po odejściu Gebru niektórzy eksperci AI wskazywali, że Google dawno już przestało być zaufanym partnerem, a słowa szefa ds. badań nad sztuczną inteligencją, Jeffa Deana, który powiedział , że artykuł badawczy, który doprowadził do odejścia Gebru, był po prostu kiepski, nie pomaga oczyścić sytuacji.  I nic dziwnego, że ponad 2600 pracowników Google podpisało list w proteście przeciwko traktowaniu Gebru.

dr Piotr Kaczmarek-Kurczak
Katedra Przedsiębiorczości i Etyki Biznesu
Akademia Leona Koźmińskiego

Dlaczego specjalista od etyki by zatrudniony w zespole ds. AI? Jakie problemy mógł wskazać?

Dr Timnit Gebru oraz dr Margaret Mitchell pracowały w firmie w Google jako specjaliści do spraw etyki i ich zadaniem było nadzorowanie prac nad systemami sztucznej inteligencji w taki sposób, by w tworzonych algorytmach nie zostały zawarte uprzedzenia i przesądy ich twórców. Algorytmy mogą wykazywać pewne preferencje lub skłonności, które są wynikiem reguł, jakie wpisali do nich twórcy oprogramowania. Zadaniem obu ekspertek było pilnowanie, by te algorytmy nie dyskryminowały nikogo. Głośna była sprawa algorytmu rozpoznającego obrazy, który identyfikował czarnoskóre osoby jako goryle (co wynikało z przyjętych reguł identyfikacji obrazu, które nie zakładały, że ludzie mogą mieć określony kształt twarzy i kolor skóry). Algorytmy innych firm niż Google również miały skłonność do odrzucania kandydatów o innym niż biały kolorze skóry, obniżania ich rankingów, stosowały inne kryteria oceny wyników kobiet itd.

To właśnie spór o to, jak uprzedzenia wynikające z kultury organizacyjnej wpływają na sposób działania algorytmów AI była iskrą, która zainicjowała spór pomiędzy obiema paniami a kierownictwem firmy.*

*Konflikt nie dotyczył ściśle działalności związanej z projektowaniem sztucznej inteligencji, ale z pogarszającym się stanem kultury organizacyjnej Google. Firma, która kiedyś głosiła hasło „Nie czynić zła” i budowała swój wizerunek jako firmy, która buduje lepszą przyszłość dla całej ludzkości. Ten wizerunek stawał się coraz bardziej wątpliwy wraz z ustępstwami firmy względem władz Chin, którym firma Google pomagała w budowaniu słynnego „Wielkiego Muru Chińskiego” czyli różnych rozwiązań, które odcinały obywateli chińskich od „nieprawomyślnych” (niezgodnych z oczekiwaniami chińskich władz) informacji. To zburzyło zaufanie dla tej firmy – szczególnie wśród specjalistów i programistów, którzy zaczęli kwestionować również trudne warunki pracy (długie godziny pracy, duża intensywność, odpowiedzialność, wewnętrzna konkurencja) w tej firmie, które ich zdaniem nie miały uzasadnienia w społecznej misji organizacji. W konsekwencji rozpoczęły się wewnętrzne spory, w tym próby założenia związków zawodowych pracowników Google.

Spór z dr Gebru i dr Mitchell był związany właśnie z kulturą organizacji: obie ekspertki zwracały uwagę na niski poziom zróżnicowania etnicznego w firmie, mały udział kobiet itd. Jest to szczególnie widoczne w sytuacji, gdy bardzo szybko rośnie udział kobiet wśród informatyków i programistów, więc nie można tego wytłumaczyć brakiem odpowiednich kandydatek i kandydatów.

Czy decyzje Google mogą wydawać się niepokojące?

Tak, ponieważ  w rękach firmy pozostaje ogromna władza, wynikająca z gromadzonych przez nią danych i roli usług świadczonych przez firmę. Czy chcielibyśmy, żeby na przykład sztuczna inteligencja prowadząca nas w systemie nawigacji, znając nasz status majątkowy  wybierała taką drogę, byśmy nie przejeżdżali przez dzielnice zamieszkałe przez osoby bogate? Albo nie pokazywała nam niektórych ofert z góry uznając nas za nieodpowiednich klientów? Wyobraźmy sobie, że algorytm rekomendujący nam leczenie z góry wyklucza pewne terapie zakładając (tak jak myśleli jego twórcy) że nas nie będzie stać na tę terapię lub że jej zastosowanie będzie marnowaniem środków i energii. Działania firmy są interpretowane przez dziennikarzy i polityków jako hipokryzja, polegająca na tym, że w oficjalnej komunikacji firma podkreśla zaangażowanie w rozwiązywanie globalnych problemów (np. klimatycznych i środowiskowych), a swojej kulturze organizacyjnej niepokojąco mało uwagi poświęca problemom społecznym i etycznym, skupiając się głównie na zyskach.