Ile decyzji o nas podejmowanych jest w sposób zautomatyzowany? Nowy raport – przegląd praktyk w 12 krajach europejskich.

Systemy zautomatyzowanego podejmowania decyzji są już stosowane w Europie na masową skalę. Profilowanie kandydatów do pracy na podstawie zawartości ich osobistych skrzynek mailowych w Finlandii, decydowanie o tym, którzy pacjenci zostaną poddani leczeniu w publicznym systemie opieki zdrowotnej we Włoszech, profilowanie bezrobotnych w Polsce, automatyczne identyfikowanie dzieci narażonych na zaniedbania w Danii, wykrywanie oszustw w zakresie dobrostanu w Holandii, systemy punktacji kredytowej w wielu krajach UE to tylko niektóre przykłady. AlgorithmWatch i Bertelsmann Stiftung zaprosili nas do pracy nad raportem, którego celem było przyjrzenie się różnym systemom zautomatyzowanego podejmowania decyzji w Europie. Dzisiaj możemy zaprezentować efekt naszej pracy –   raport „Automatyzacja społeczeństwa – podsumowanie zautomatyzowanych procesów decyzyjnych w UE” (Automating Society – Taking Stock of Automated Decision-Making in the EU).  

Dlaczego ten temat nas interesuje? Zautomatyzowane podejmowanie decyzji (ang. automated decision-making, ADM), jakkolwiek mające potencjał ułatwienia i przyspieszenia wielu procesów, stwarza również ryzyko dyskryminacji, natarczywego monitorowania lub zwiększania nierówności. Niewątpliwie jest to przykład, jak pod wpływem stosowania technologii zmieniają się pewne procesy społeczne. Warto dbać o to, by wdrażając ułatwienia nie zapominać o prawach jednostki, w tym prawa do samostanowienia, prywatności czy środka odwoławczego. Dyskusja ta wydaje się nam szczególnie ważna, gdyż prawie nieistniejąca w polskim dyskursie publicznym. Co prawda w dyskusji o strategii rozwoju sztucznej inteligencji nie zapomniano o aspektach etycznych, jednak systemy ADM często są prostymi mechanizmami czy algorytmami, niemającymi wiele wspólnego ze sztuczną inteligencją.

Zautomatyzowane podejmowane decyzji to proces, w którym decyzja podejmowana jest – częściowo lub całkowicie – z wykorzystaniem automatycznych modeli decyzyjnych (np. algorytmów).

raport ADM
Tytuł: raport ADM
ccby
Autor: AlgorithmWatch

Mamy nadzieję, że raport, w którym analizę sytuacji w Polsce przygotował Alek Tarkowski, będzie przydatny decydentom i politykom w kreowaniu świadomych strategii rozwoju technologii. Dopiero w oparciu o analizę konkretnych zastosowań ADM można opracować realistyczne i praktyczne pomysły na sprostanie wyzwaniom z nim związanym. Najważniejszą rekomendacją autorów raportu jest potrzeba większej współpracy na poziomie europejskim – bardzo trudno jest funkcjonować w rzeczywistości, gdzie każdy z krajów członkowskich ma własne podejście do ADM. Tylko wspólne standardy, regulacje i dobre praktyki zagwarantują, że ADM będzie używane w służbie społeczeństwa w sposób gwarantujący przestrzeganie praw każdego z nas.

Pozostałe rekomendacje dotyczą m.in.:

– stworzenia odpowiednich mechanizmów kontroli (w tym specjalistycznych instytucji) w celu kontrolowania  zastosowania systemów ADM;

– skupienia się na tematach mających rzeczywisty wpływ na społeczeństwo – nie każdy system ADM ma polityczne znaczenie, ale wiele decyduje o naszych prawach;

– potrzeby włączenia społeczeństwa obywatelskiego w dyskusję o systemach ADM;

– oceny ADM jako całościowego zjawiska, a nie tylko poszczególnych narzędzi czy konkretnych technologii – równie ważny jest kontekst społeczny danego zastosowania;

– tworzenia mechanizmów angażowania samych obywateli w zrozumienie i dyskusję o ADM.

W raporcie przedstawiono ponad 60 przykładów z 12 krajów, a także przegląd podmiotów zaangażowanych i podsumowano debatę polityczną poświęconą ADM. W części poświęconej Polsce omówiono m.in. następujące przykłady: System Losowego Przydziału Spraw (wprowadzony przez Ministerstwo Sprawiedliwości), Platforma Zarządzania Oświatą, Centrum Automatycznego nadzoru nad Ruchem Drogowym.

Dodaj komentarz

Twój adres email nie zostanie opublikowany.

Komentarz zostanie dodany po zatwierdzeniu przez administratora