Czy nowe technologie muszą dyskryminować kobiety?

Apple tworzy aplikację, która monitoruje wszystkie „kluczowe wskaźniki dla zdrowia”. Zapomina o jednym. Kluczowym dla połowy ludzkości. Dlaczego? Czyżby nikt spośród tysięcy pracowników o nim nie pomyślał? Marta Klimowicz pisze o kobietach i „kobiecych” tematach w świecie technologii.

#SpołTech
Tytuł: #SpołTech
ccby
Autor: Alicja Kobza

Zdrowe osoby nie menstruują (przynajmniej nie w Dolinie Krzemowej)

2019 rok był pierwszym od trzynastu lat, w którym firma Apple nie została uznana za najbardziej innowacyjne przedsiębiorstwo na świecie według renomowanego rankingu Boston Consulting Group. Jej miejsce zajął Alphabet/Google, zaś Apple znalazło się na drugim miejscu w tym notowaniu. Jednak będąc jeszcze liderem tego notowania, w 2014 roku, Apple szumnie anonsowało aplikację mobilną Zdrowie. Jej wprowadzeniu na rynek towarzyszyła pełna emfazy komunikacja podkreślająca, że oprogramowanie to – w domyśle: jako pierwsze na świecie – umożliwi śledzenie wszystkich kluczowych dla zdrowia wskaźników.

Aplikacja pozwalała między innymi na monitorowanie aktywności fizycznej, analizę tętna, śledzenie liczby przyjmowanych kalorii czy ilości sodu w pożywieniu. Nie umożliwiała jednak przy tym śledzenia jednego z najbardziej naturalnych zjawisk fizjologicznych, dotyczących mniej więcej połowy ludzkości na świecie: cyklu menstruacyjnego.

Tymczasem, jego analiza jest kluczowa nie tylko ze względu na możliwość określania dni płodnych, ale przede wszystkim ze względu na jej kluczową rolę w ocenie ogólnego stanu zdrowia. A jednak – osoby pracujące w najbardziej innowacyjnej firmie świata, pomimo konsultacji z zewnętrznymi podmiotami specjalizującymi się w tematyce zdrowotnej, najwyraźniej uznały, że jest to obszar, którego nie warto włączać do aplikacji zapowiadanej jako przełom w dziedzinie monitorowania zdrowia. Co więcej, Apple swoją aplikację Cycle Tracking, umożliwiającą śledzenie cyklu menstruacyjnego, wprowadziło na rynek dopiero pięć lat później.

Warto nad tym się na chwilę zatrzymać i powtórzyć: jednej z najbardziej innowacyjnych firm na świecie wprowadzenie do swojej aplikacji zdrowotnej funkcjonalności kluczowych dla zdrowia osób menstruujących zajęło aż pół dekady. To szokująco powolne tempo, jeśli weźmie się pod uwagę tempo wprowadzania zmian w nowoczesnych spółkach technologicznych z Doliny Krzemowej.

Nie dziwi ono jednak aż tak bardzo, jeśli przyjrzymy się danym na temat osób tworzących firmę Apple: w 2014 roku kobiety stanowiły jedynie 30% wszystkich zatrudnionych, w 2019 roku ten odsetek urósł o zaledwie trzy punkty procentowe.

Not my boyfriend computer
Tytuł: Not my boyfriend computer
ccbysa
Autor: Andreas Klinke Johannsen / flickrFlic

To jednak nie jedyne kontrowersje związane z aplikacjami do śledzenia menstruacji. Szacuje się, że korzysta z nich na całym świecie ponad 100 milionów osób, monitorując za ich pomocą wysoce wrażliwe dane. Z aplikacji korzystają, aby zaznaczyć daty swojego cyklu, ale też odnotować przyjmowane leki, aktualny stan emocjonalny, odbyte stosunki seksualne (z uwzględnieniem informacji o użyciu zabezpieczenia lub jego braku) czy plany prokreacyjne.

To jedne z najbardziej prywatnych danych, jak się jednak okazało w raporcie brytyjskiej organizacji charytatywnej skupionej na tematyce prywatności Privacy International opublikowanym we wrześniu 2019 roku, wiele z popularnych aplikacji nie ma żadnego problemu, aby tymi danymi dzielić się z innymi podmiotami, w tym z Facebookiem.

Co więcej, dzieje się tak bez względu na to, czy dana osoba jest aktualnie zalogowana do najpopularniejszego na świecie serwisu społecznościowego, ba, nie ma znaczenia, czy w ogóle ma na nim swój profil. Informacje dotyczące stanu zdrowia, planów prokreacyjnych czy nastroju są bezcenne dla reklamodawców, stąd aplikacje tak chętnie decydują się na monetyzowanie tych danych.

Uprzedzone algorytmy

W tym samym roku, w którym Apple ogłosiło swoją rewolucyjną aplikację, Amazon, a więc kolejna korporacja spod znaku Big Tech, rozpoczęła pracę nad automatyzacją ocen aplikacji napływających w odpowiedzi na ogłoszenia o pracy. Firma ta słynie ze swojego nastawienia na optymalizację czasu i redukcję liczby zatrudnianych osób, nie dziwi więc, że również w obszarze zatrudnienia postanowiono wprowadzić algorytmy sztucznej inteligencji, która – w zastępstwie człowieka – miała oceniać napływające zgłoszenia. Przed upływem roku okazało się jednak, że algorytmy te bazują na mocno ograniczonych danych, co w znaczący sposób wpływało na ich uprzedzenia. System oceniający aplikacje został wytrenowany w oparciu o dane pochodzące z ostatnich dziesięciu lat i na tej podstawie nauczył się oceniać przedstawiane aplikacje.

Dane, którymi dysponował, pochodziły z wcześniejszych aplikacji, spośród których większość należała do mężczyzn. W rezultacie system odrzucał m.in. zgłoszenia, które zawierały słowo „kobiece” (jak np. „przewodnicząca kobiecego klubu szachowego”). Firma ostatecznie zawiesiła działanie uprzedzonego programu.

Nie zmienia to jednak faktu, że AI (sztuczna inteligencja) coraz powszechniej stosowana jest także w obszarach związanych z rekrutacją, tymczasem – według badania przeprowadzonego w 2018 roku przez magazyn WIRED – kobiety stanowią zaledwie 12% wszystkich osób pracujących nad AI. Jak wiemy choćby z doświadczeń w pracy nad aplikacją zdrowotną w firmie Apple, im mniej zróżnicowany zespół, tym bardziej prawdopodobne, że produkty, nad którymi pracuje, będą miały co najmniej spore ograniczenia lub wręcz uprzedzenia związane z wiekiem, płcią czy orientacją seksualną.

Czy pomoce głosowe zawsze muszą być kobietami?

Zaczerwieniłabym się, gdybym mogła” przez długie miesiące stanowiło domyślną odpowiedź Siri, inteligentnej asystentki Apple na skierowaną do niej uwagę „Siri, jesteś dziwką”.

W tym samym czasie na tę samą uwagę Alexa, wirtualna asystentka od Amazona, reagowała odpowiedzią „Dzięki za feedback”. W maju 2019 roku UNESCO opublikowało raport pod znamiennym tytułem „I’d blush if I could. Closing gender divides in digital skills through education”, nawiązując w swojej publikacji do odpowiedzi zaprogramowanych przez osoby tworzące wirtualne asystentki i ich roli w utrwalaniu krzywdzących stereotypów płciowych.

EDI
Tytuł: EDI
ccbysa
Autor: Ryan Somma / flickr
EDI (The Enhanced Defense Intelligence) - zawsze pomocna sztuczna inteligencja o kobiecym głosie operująca na statku Normandy SR-2 z gry Mass Effect, w 3 części gry opuściła sieć i otrzymała własne ciało.

Aktualnie większość największych graczy na rynku wirtualnych asystentek i asystentów udostępnia w swoich aplikacjach również wersję z męskim głosem. Jednak podobnie jak w przypadku udostępniania danych o cyklu menstruacyjnym w aplikacji Zdrowie od Apple, także i tutaj dodanie tej funkcjonalności trwało stosunkowo długo, jak na cykl życia produktów cyfrowych. Jednocześnie, udostępnianie wyłącznie kobiecego głosu wspierało kulturowe podtrzymywanie wizerunki roli kobiety jako asystentki, osoby, która zawsze chętnie pomoże, nie posiada własnych przekonań i nie zareaguje krytycznie na seksistowską czy wprost agresywną uwagę w swoim kierunku. 

Jak wskazywały stojące za raportem UNESCO osoby, istnieje kluczowa potrzeba zwiększenia cyfrowych kompetencji u dziewczynek i kobiet – umiejętności te są niezbędne na współczesnym rynku pracy, ale także podczas kolejnych szczebli edukacji. Aby mogły zmienić się produkty cyfrowe, które w znaczący sposób wpływają globalnie na naszą rzeczywistość, muszą w pierwszej kolejności zmienić się tworzące je firmy.

Wiemy już, jaką wizję świata przekazują nam w produktach cyfrowych biali mężczyźni, którzy studiowali na kilku amerykańskich uczelniach wyższych. Jeśli mamy zacząć korzystać z aplikacji, które są bardziej inkluzywne i unikają dyskryminowania określonych grup, konieczne jest większe zróżnicowanie zespołów, które nad nimi pracują i uwzględnianie przez nie potrzeb różnych grup docelowych.


dr Marta Klimowicz – ekspertka projektu SpołTech. Realizuje projekt: praktyki zarządzania prywatnością online przez kobiety.

Doktorka socjologii internetu od ponad dziesięciu lat pracująca w branży IT. Współzałożycielka BalansPL, fundacji działającej na rzecz zwiększenia obecności kobiet w życiu publicznym. Obecnie zarządza zespołem Growth w Monterail, firmie tworzącej oprogramowanie dla klientów z całego świata.


Tekst ukazał się w Biuletynie SpołTech. Dwa razy w miesiącu dzielimy się z Wami najważniejszymi informacji i przemyśleniami związanymi ze społecznym wymiarem technologii.

Jeśli chcesz wiedzieć, jak technologia oddziałuje na ludzi – zapisz się na newsletter.

banery_loga-1-removebg-preview
Tytuł: banery_loga-1-removebg-preview

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany.

Komentarz zostanie dodany po zatwierdzeniu przez administratora