Ile decyzji o nas podejmowanych jest w sposób zautomatyzowany? Nowy raport – przegląd praktyk w 12 krajach europejskich.

Systemy zautomatyzowanego podejmowania decyzji są już stosowane w Europie na masową skalę. Profilowanie kandydatów do pracy na podstawie zawartości ich osobistych skrzynek mailowych w Finlandii, decydowanie o tym, którzy pacjenci zostaną poddani leczeniu w publicznym systemie opieki zdrowotnej we Włoszech, profilowanie bezrobotnych w Polsce, automatyczne identyfikowanie dzieci narażonych na zaniedbania w Danii, wykrywanie oszustw w zakresie dobrostanu w Holandii, systemy punktacji kredytowej w wielu krajach UE to tylko niektóre przykłady. AlgorithmWatch i Bertelsmann Stiftung zaprosili nas do pracy nad raportem, którego celem było przyjrzenie się różnym systemom zautomatyzowanego podejmowania decyzji w Europie. Dzisiaj możemy zaprezentować efekt naszej pracy –   raport „Automatyzacja społeczeństwa – podsumowanie zautomatyzowanych procesów decyzyjnych w UE” (Automating Society – Taking Stock of Automated Decision-Making in the EU).  

Dlaczego ten temat nas interesuje? Zautomatyzowane podejmowanie decyzji (ang. automated decision-making, ADM), jakkolwiek mające potencjał ułatwienia i przyspieszenia wielu procesów, stwarza również ryzyko dyskryminacji, natarczywego monitorowania lub zwiększania nierówności. Niewątpliwie jest to przykład, jak pod wpływem stosowania technologii zmieniają się pewne procesy społeczne. Warto dbać o to, by wdrażając ułatwienia nie zapominać o prawach jednostki, w tym prawa do samostanowienia, prywatności czy środka odwoławczego. Dyskusja ta wydaje się nam szczególnie ważna, gdyż prawie nieistniejąca w polskim dyskursie publicznym. Co prawda w dyskusji o strategii rozwoju sztucznej inteligencji nie zapomniano o aspektach etycznych, jednak systemy ADM często są prostymi mechanizmami czy algorytmami, niemającymi wiele wspólnego ze sztuczną inteligencją.

Zautomatyzowane podejmowane decyzji to proces, w którym decyzja podejmowana jest – częściowo lub całkowicie – z wykorzystaniem automatycznych modeli decyzyjnych (np. algorytmów).
raport ADM
Tytuł: raport ADM
ccby
Autor: AlgorithmWatch

Mamy nadzieję, że raport, w którym analizę sytuacji w Polsce przygotował Alek Tarkowski, będzie przydatny decydentom i politykom w kreowaniu świadomych strategii rozwoju technologii. Dopiero w oparciu o analizę konkretnych zastosowań ADM można opracować realistyczne i praktyczne pomysły na sprostanie wyzwaniom z nim związanym. Najważniejszą rekomendacją autorów raportu jest potrzeba większej współpracy na poziomie europejskim – bardzo trudno jest funkcjonować w rzeczywistości, gdzie każdy z krajów członkowskich ma własne podejście do ADM. Tylko wspólne standardy, regulacje i dobre praktyki zagwarantują, że ADM będzie używane w służbie społeczeństwa w sposób gwarantujący przestrzeganie praw każdego z nas.

Pozostałe rekomendacje dotyczą m.in.:

– stworzenia odpowiednich mechanizmów kontroli (w tym specjalistycznych instytucji) w celu kontrolowania  zastosowania systemów ADM;

– skupienia się na tematach mających rzeczywisty wpływ na społeczeństwo – nie każdy system ADM ma polityczne znaczenie, ale wiele decyduje o naszych prawach;

– potrzeby włączenia społeczeństwa obywatelskiego w dyskusję o systemach ADM;

– oceny ADM jako całościowego zjawiska, a nie tylko poszczególnych narzędzi czy konkretnych technologii – równie ważny jest kontekst społeczny danego zastosowania;

– tworzenia mechanizmów angażowania samych obywateli w zrozumienie i dyskusję o ADM.

W raporcie przedstawiono ponad 60 przykładów z 12 krajów, a także przegląd podmiotów zaangażowanych i podsumowano debatę polityczną poświęconą ADM. W części poświęconej Polsce omówiono m.in. następujące przykłady: System Losowego Przydziału Spraw (wprowadzony przez Ministerstwo Sprawiedliwości), Platforma Zarządzania Oświatą, Centrum Automatycznego nadzoru nad Ruchem Drogowym.

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany.

Komentarz zostanie dodany po zatwierdzeniu przez administratora