Ile decyzji o nas podejmowanych jest w sposób zautomatyzowany? Nowy raport – przegląd praktyk w 12 krajach europejskich.
Systemy zautomatyzowanego podejmowania decyzji są już stosowane w Europie na masową skalę. Profilowanie kandydatów do pracy na podstawie zawartości ich osobistych skrzynek mailowych w Finlandii, decydowanie o tym, którzy pacjenci zostaną poddani leczeniu w publicznym systemie opieki zdrowotnej we Włoszech, profilowanie bezrobotnych w Polsce, automatyczne identyfikowanie dzieci narażonych na zaniedbania w Danii, wykrywanie oszustw w zakresie dobrostanu w Holandii, systemy punktacji kredytowej w wielu krajach UE to tylko niektóre przykłady. AlgorithmWatch i Bertelsmann Stiftung zaprosili nas do pracy nad raportem, którego celem było przyjrzenie się różnym systemom zautomatyzowanego podejmowania decyzji w Europie. Dzisiaj możemy zaprezentować efekt naszej pracy – raport „Automatyzacja społeczeństwa – podsumowanie zautomatyzowanych procesów decyzyjnych w UE” (Automating Society – Taking Stock of Automated Decision-Making in the EU).
Dlaczego ten temat nas interesuje? Zautomatyzowane podejmowanie decyzji (ang. automated decision-making, ADM), jakkolwiek mające potencjał ułatwienia i przyspieszenia wielu procesów, stwarza również ryzyko dyskryminacji, natarczywego monitorowania lub zwiększania nierówności. Niewątpliwie jest to przykład, jak pod wpływem stosowania technologii zmieniają się pewne procesy społeczne. Warto dbać o to, by wdrażając ułatwienia nie zapominać o prawach jednostki, w tym prawa do samostanowienia, prywatności czy środka odwoławczego. Dyskusja ta wydaje się nam szczególnie ważna, gdyż prawie nieistniejąca w polskim dyskursie publicznym. Co prawda w dyskusji o strategii rozwoju sztucznej inteligencji nie zapomniano o aspektach etycznych, jednak systemy ADM często są prostymi mechanizmami czy algorytmami, niemającymi wiele wspólnego ze sztuczną inteligencją.
Autor: AlgorithmWatch
Mamy nadzieję, że raport, w którym analizę sytuacji w Polsce przygotował Alek Tarkowski, będzie przydatny decydentom i politykom w kreowaniu świadomych strategii rozwoju technologii. Dopiero w oparciu o analizę konkretnych zastosowań ADM można opracować realistyczne i praktyczne pomysły na sprostanie wyzwaniom z nim związanym. Najważniejszą rekomendacją autorów raportu jest potrzeba większej współpracy na poziomie europejskim – bardzo trudno jest funkcjonować w rzeczywistości, gdzie każdy z krajów członkowskich ma własne podejście do ADM. Tylko wspólne standardy, regulacje i dobre praktyki zagwarantują, że ADM będzie używane w służbie społeczeństwa w sposób gwarantujący przestrzeganie praw każdego z nas.
Pozostałe rekomendacje dotyczą m.in.:
– stworzenia odpowiednich mechanizmów kontroli (w tym specjalistycznych instytucji) w celu kontrolowania zastosowania systemów ADM;
– skupienia się na tematach mających rzeczywisty wpływ na społeczeństwo – nie każdy system ADM ma polityczne znaczenie, ale wiele decyduje o naszych prawach;
– potrzeby włączenia społeczeństwa obywatelskiego w dyskusję o systemach ADM;
– oceny ADM jako całościowego zjawiska, a nie tylko poszczególnych narzędzi czy konkretnych technologii – równie ważny jest kontekst społeczny danego zastosowania;
– tworzenia mechanizmów angażowania samych obywateli w zrozumienie i dyskusję o ADM.
W raporcie przedstawiono ponad 60 przykładów z 12 krajów, a także przegląd podmiotów zaangażowanych i podsumowano debatę polityczną poświęconą ADM. W części poświęconej Polsce omówiono m.in. następujące przykłady: System Losowego Przydziału Spraw (wprowadzony przez Ministerstwo Sprawiedliwości), Platforma Zarządzania Oświatą, Centrum Automatycznego nadzoru nad Ruchem Drogowym.