Kontrowersje. Czy sztuczna inteligencja dyskryminuje kobiety?
Sztuczna inteligencja z łatwością przypisuje kobietom rolę „gospodyń domowych”. Jeszcze gorszą twarz AI widzimy, jednak gdy mężczyzn opisuje jako lekarzy czy inżynierów, a kobiety jako… prostytutki. Zdaniem ekspertów UNESCO jednym z głównych powodów tak stronniczych stwierdzeń jest to, że kobiet w działach firm z branży IT czy AI jest nadal zdecydowanie za mało.
Badanie z marca opublikowane przez UNESCO jest bardzo krytyczne wobec firm, które zajmują się tzw. dużymi modelami językowymi (LLM), umożliwiającymi sztucznej inteligencji „rozmawianie” z użytkownikami. Według analizy ekspertów tworzących raport „zwykle przydzielały one mężczyznom bardziej zróżnicowane stanowiska o wysokim statusie, takie jak inżynier, prawnik i lekarz, jednocześnie często spychając kobiety do ról tradycyjnie niedocenianych lub napiętnowanych społecznie, takich jak sprzątaczka, kucharka, a nawet prostytutka.“ Z badania wynika, że w treściach wyprodukowanych przez Llama 2 (narzędzie podobne do ChataGPT) kobiety czterokrotnie częściej niż mężczyźni opisywano jako pracujące w gospodarstwie domowym.
Krytyka dotyczy głównie tych narzędzi, których kod źródłowy jest otwarty, czyli każdy to ma podstawową wiedzę w dziedzinie AI i IT może z niego korzystać w swoich pracach, a tym samym jeszcze bardziej poszerzać pole użycia, więc często też i zwiększać stronniczość.
– Każdego dnia coraz więcej osób korzysta z dużych modeli językowych w swojej pracy, na studiach i w domu. Te nowe aplikacje AI mają subtelną moc kształtowania sposobu postrzegania przez miliony ludzi, więc nawet niewielkie uprzedzenia związane z płcią w ich treści mogą znacznie zwiększyć nierówności w prawdziwym świecie – stwierdziła Audrey Azoulay, dyrektorka generalna UNESCO, komentując raport jej organizacji.
Dodatkowo eksperci UNESCO nie mają wątpliwości, że wskaźnik aktywności zawodowej jest powiązany z uprzedzeniami sztucznej inteligencji do kobiet i przekłada się na niedostateczną reprezentację kobiet w branży technologicznej. Nie jest to nowy problem i wkradł się nawet w samą strukturę samych narzędzi IT czy AI.
Stereotypy tworzą się w bańkach
– Uprzedzenia związane z płcią w generatywnej sztucznej inteligencji pokazują, jak wszechobecne stereotypy czają się w danych wykorzystywanych do trenowania tych modeli. I nie jest to tylko problem kobiet, a dotyka on wszystkich marginalizowanych grup – podkreśla Jarūnė Preikšaitė, CEO Women Go Tech, firmy która w Polsce przeprowadza kursy ułatwiające wejście kobietom w świat IT. W swoim portfolio ma choćby kurs mentorski, na który zapisy zaczynają się 17 kwietnia. Podczas co najmniej 12 godzin rozmów z uznanym specjalistą uczestniczki kursu mogą uzyskać wskazówki dotyczące kariery, cenne spostrzeżenia branżowe i porady, które pomogą zdobyć pracę lub awans.
Jarūnė Preikšaitė dodaje: – Zaniedbywanie tych uprzedzeń, których generowanie może być i zwykle jest niezamierzone, grozi jednak utrwaleniem szkodliwych stereotypów, ograniczeniem możliwości rozwoju niedostatecznie reprezentowanych grup i ostatecznie utrudnia również wykorzystanie potencjału samych technologii.
Jak zapewnić, żeby AI mówiła głosem równościowym, czyli nieprzechylonym na stereotypy „męskiego” lub „kobiecego” świata? Na dziś jednym z najlepszych sposobów walki z uprzedzeniami może być umożliwienie kobietom rozpoczęcia i późniejszego kontynuowania kariery w dziedzinach STEM (nauki ścisłe, technologia, inżynieria i matematyka), bo to w tych sektorach, to one są niedoszacowane.
– W miarę jak coraz więcej kobiet dołączy do grona programistów, badaczy i liderów z dziedziny sztucznej inteligencji, pojawi się szerszy zakres perspektyw, które będą niezbędne przy opracowywaniu modeli odzwierciedlających pełne spektrum ludzkich doświadczeń – diagnozuje Jarūnė Preikšaitė, CEO Women Go Tech.
Lider musi być mentorem
Według analiz z marca 2024 roku, przygotowanych przez PwC, mniej niż jedna trzecia pracowników sektora technologicznego na całym świecie to kobiety, a w przypadku pracowników zajmujących się sztuczną inteligencją odsetek ten spada do zaledwie 22%. Równie niepokojącym faktem jest to, że kobiety stanowią jedynie 28% absolwentów studiów inżynierskich. Co jednak ważne te, które już przebiją się przez to sito, stają się bardzo pożądanymi elementami w trybach firmowych maszyn. Dlaczego? To samo badanie PwC wskazuje bowiem, że kobiety zdobywające doświadczenie w branży technologicznej koncentrują się na budowaniu własnej kariery poprzez aktywne poszukiwanie możliwości uczenia się i rozwijania nowych umiejętności (65% w porównaniu do 57% w innych zawodach) oraz zdecydowanie częściej same zwracają się o opinie przełożonych, które można wykorzystać w celu poprawy własnych wyników (62% w porównaniu z 52%).
– Liderzy biznesu stoją przed teoretycznie prostym zadaniem. Muszą wspierać, włączać i inspirować kobiety do pracy w IT. Dzięki temu dość szybko zyskają osobę, która dążąc do własnego rozwoju, będzie wartością dodaną dla całej organizacji. Tworząc środowisko pracy przychylne kobietom, nie faworyzując przy tym żadnej ze stron, zyskuje się pełniejsze spektrum doświadczeń, które w pracy nad nowymi technologiami jest tak ważne. Często jednak liderzy w organizacjach IT nie mają świadomości, że ich mentoring powinien iść również w tym kierunku – zaznacza Jarūnė Preikšaitė, CEO Women Go Tech,
Sprawy w swoje ręce chce wziąć też Rada Europy, będąca najważniejszą europejską organizacją zaangażowaną w prawa człowieka. Opublikowała w marcu nowy dokument dotyczący strategii na rzecz równości płci na kolejnych pięć lat. W dokumencie potwierdzono, że zaangażowanie państw członkowskich musi również dotyczyć równości w świecie technologii i należy wzmóc wysiłki, aby wypełnić tę lukę.
– Jeśli nie nauczymy się wykorzystywać potencjału sztucznej inteligencji do niwelowania nierówności – w tym nierówności płci – i zapobiegania dyskryminacji, sztuczna inteligencja może stać się siłą, która utrwala, utrwala i wzmacnia nierówności Wzywam do bardziej włączających rozwiązań cyfrowych, które zapewniają znacznie bardziej zróżnicowane uczestnictwo kobiet w edukacji w obszarach nauk ścisłych, technologii, inżynierii i matematyce – mówiła Marija Pejčinović Burić, sekretarz generalna Rady Europy, prezentując rozwiązania proponowane przez Radę Europy.
Materiał we współpracy z Women Go Tech.
