1. Algorytmy wkraczają w kolejny sfery naszego życia. Podejmują decyzje za nas… i dotyczące nas.
2. Edukacja, sądownictwo, kultura, dom. Przedstawiamy raport, w którym opisujemy, jak algorytmy są wykorzystywane do automatyzacji decyzji we wszystkich sfera życia.
3. Kładziemy nacisk na wykorzystanie algorytmów w Polsce oraz na kwestie społeczne: skutki delegowania decyzji z człowieka na algorytm.
4. Prezentujemy rekomendacje, dzięki którym Polska może dokonać technologicznego jakościowego skoku w rozwoju sztucznej inteligencji, wykorzystując doświadczenie innych krajów i ucząc się na ich błędach.
Aby Polska dokonała technologicznego skoku związanego z rozwojem sztucznej inteligencji, potrzebujemy realnej debaty o algorytmach, modelu ich regulacji, audytów i wyjaśnialności systemów, nowych rozwiązań w kwestii zarządzania danymi oraz powszechnej edukacji.
W raporcie przygotowanym razem z Klubem Jagiellońskim pokazujemy, jak automatyczne systemy podejmowania decyzji są wdrażane w najróżniejszych sferach życia i funkcjonowania społeczeństwa. Przedstawiamy też bilans korzyści i strat związanych z automatyzacją podejmowania decyzji.
W ostatniej części prezentujemy rekomendacje i kierunki dalszych prac analitycznych i regulacyjnych, w pięciu obszarach: współpraca międzysektorowa, zarządzanie danymi, regulacja, audyt, edukacja.
Nie czekajmy na rozwój sztucznej inteligencji, już teraz rozmawiajmy, o tym jak algorytmy wpływają na życie ludzi
Zamiast czekać na rozwój sztucznej inteligencji, powinniśmy się skupić na tym jak już dzisiaj zautomatyzowane systemy podejmowania decyzji (Automated Decision Making, ADM) wykorzystujące algorytmy wpływają na życie ludzi i funkcjonowanie społeczeństwa.
Systemy ADM wykorzystywane są przez człowieka w procesach podejmowania decyzji – czasami jako systemy decyzyjne, czasami jako wspomagające. Często, ale nie zawsze, systemy te wykorzystują sztuczną inteligencję – technologię uczenia się maszynowego.
Mówienie o systemach ADM – zamiast o sztucznej inteligencji – pozwala lepiej rozumieć wpływ tych nowych technologii na jednostkę i społeczeństwo. Automatyzacja podejmowania decyzji jest też bowiem wprowadzana z wykorzystaniem dużo prostszych technologii, czasami po prostu w formie arkusza obliczeniowego.
Uczmy się na błędach i sukcesach innych, bo tylko wtedy Polska będzie mogła skutecznie rozwijać rynek nowych technologii. Korzystajmy z renty zapóźnienia, by zrównoważony rozwój systemów ADM w Polsce.
Gospodarczo-technologiczny skok Polski nie dokona się bez wytworzenia popytu na wdrażanie najnowszych technologii w kraju. Obserwujemy skupienie debaty oraz polityki rozwoju sztucznej inteligencji w Polsce wokół prac badawczo-rozwojowych oraz wykorzystywania jej do tworzenia eksportowych produktów gospodarczych. Prowadzi to do stworzenia strategii podażowej, w której Polska jest krajem dostarczającym opartych o sztuczną inteligencję rozwiązań stosowanych następnie w innych miejscach na świecie. Stworzenie strategii popytowej jest niezbędne, jeśli rewolucja technologiczna ma przynieść korzyść polskiemu społeczeństwu.
W Polsce wdraża się mniej systemów ADM niż w innych państwach europejskich i rozwiniętych gospodarkach. Możemy wykorzystać rentę zapóźnienia, by zapewnić zrównoważony rozwój systemów ADM w Polsce. Wprowadzając te systemy, możemy bowiem wyciągać wnioski i uczyć się na błędach popełnianych w innych państwach, które dokonały pionierskich – i często wadliwych – wdrożeń. Rozsądne, określone jasnymi zasadami dbałości o interes publiczny, wprowadzanie systemów ADM może przynieść korzyści polskiej gospodarce, społeczeństwu i administracji publicznej.
Bądźmy świadomi zarówno korzyści, jakie niesie automatyzacja podejmowania decyzji w sferze publicznej, jak i wyzwań przed którymi stajemy.
W raporcie prezentujemy wybór różnych zastosowań systemów ADM na świecie, w Europie i Polsce w kluczowych dla życia społecznego obszarach: prewencji przestępstw, rynku pracy, opiece społecznej i medycznej, edukacji, dostępie do kultury i informacji, finansach i sądownictwie.
Wskazujemy też pozytywne skutki, jakie niesie za sobą wdrażanie systemów automatyzujących podejmowanie decyzji: podniesienie efektywności działania przedsiębiorstw i administracji, podejmowanie decyzji w oparciu o dane i wiedzę, identyfikację i eliminację części ludzkich błędów oraz stronniczości.
Równocześnie opisujemy wyzwania związane z wdrażaniem systemów ADM: zbyt wielkie zaufanie do algorytmicznych decyzji skutkujące utratą samodzielności przez ludzi, przyczynianie się systemów ADM do społecznych niesprawiedliwości i nierówności, brak przejrzystości algorytmów i związany z tym brak odpowiedzialności, globalizację systemów ADM prowadzącą do utraty wrażliwości na wartości lokalnych społeczności, ochronę prywatności i innych praw podstawowych.
By społeczeństwo akceptowało decyzje podejmowane z wykorzystaniem algorytmów, musi ufać tworzonym przez nie systemom. Do tego niezbędne są regulacje i współpraca przedstawicieli biznesu, administracji, nauki i społeczeństwa.
Jeśli chcemy budować społeczne i gospodarcze zaufanie do systemów ADM, konieczna jest współpraca w modelu poczwórnej helisy, łączącym naukowców, przedsiębiorców, administrację publiczną i stronę społeczną. Jedynie uwzględniając interesy każdej z grup, będziemy w stanie automatyzować procesy społeczne w sposób zrównoważony.
Potrzebna jest także regulacja systemów ADM. Ze względu na wpływ, który systemy te mają na jednostki i całe społeczeństwo, konieczne jest wspólne wypracowanie założeń regulacyjnych mających zapewnić, że systemy ADM będą działać w połączonym interesie społeczeństwa oraz gospodarki. Regulacje muszą przede wszystkim zapewnić ochronę praw podstawowych i wskazać obszary, w których systemy ADM nie mogą być stosowane – decyzje muszą być dokonywane przez ludzi.
U podstaw funkcjonowania algorytmów zawsze leżą dane – kluczowa jest ich jakość i dostępność.
Systemy ADM będą jedynie tak dobre, jak wykorzystywane przez nie dane. Odpowiednia jakość oraz przede wszystkim dostępność zbiorów danych jest niezbędna, jeśli chcemy unikać skrzywionych i stronniczych wyników działania systemów ADM. Dostępność danych jest także warunkiem kluczowym do porównawczych analiz wyników działania algorytmów.
Jak działa dany algorytm? Zawsze powinniśmy znać odpowiedź. Fundamentem budowania systemów ADM musi być przejrzystość i wytłumaczalność ich działania. Zwłaszcza tych wykorzystywanych w sferze publicznej.
Fundamentem budowania systemów ADM musi być przejrzystość i wytłumaczalność ich działania. Ma to szczególne znaczenie w przypadku systemów stosowanych przez administrację publiczną oraz decydujących o kwestiach wrażliwych, m.in. wpływających na prawa podstawowe obywateli. Pozwala bowiem zrozumieć oddziaływanie tych systemów zarówno w jednostkowych przypadkach, jak i na poziomie społeczeństwa.
Odpowiedzialne i świadome wykorzystywanie algorytmów w procesie podejmowania decyzji wymaga zrozumienia ich działania. Kluczowa jest edukacja – na poziomie ogólnym samego społeczeństwa, a na specjalistycznym osób odpowiedzialnych za wdrażanie systemów ADM.
Podstawą zrównoważonego rozwoju ADM musi być świadomość społeczna: zrozumienie działania tych systemów i ich skutków. W społeczeństwie kształtowanym coraz bardziej przez algorytmy koniecznością jest podstawowa znajomość zasad działania algorytmów oraz umiejętność ich wykorzystania ze świadomością tworzonych przez nie szans i zagrożeń.
Niezbędną specjalistyczną wiedzę muszą posiadać osoby odpowiedzialne za wdrażanie systemów ADM. Dlatego edukację – często wspominaną, choć równie często bagatelizowaną – uznajemy za kluczowy element poszukiwania rozwiązań.
Autorzy raportu
Natalia Mileszyk
Ekspertka polityk publicznych w Fundacji Centrum Cyfrowe. Prawniczka specjalizująca się w prawach cyfrowych, reformie praw autorskich i polityce otwartości. Członkini Stowarzyszenia Communia, gdzie koordynuje zespół adwokatów, ekspertka prawna w Creative Commons Polska. Przez ostatnie trzy lata była aktywnie zaangażowana w reformę praw autorskich na poziomie europejskim. Absolwentka Uniwersytetu Warszawskiego i Uniwersytetu Środkowoeuropejskiego w Budapeszcie (LL.M.).
Bartosz Paszcza
Ekspert do spraw nowych technologii Centrum Analiz Klubu Jagiellońskiego, redaktor portalu klubjagiellonski.pl, magister studiów nad internetem Uniwersytetu w Southampton. Jest współzałożycielem Fundacji Polonium, organizacji łączącej polskich naukowców za granicą. Członek zarządu Klubu Jagiellońskiego.
dr Alek Tarkowski
Prezes i współzałożyciel Fundacji Centrum Cyfrowe. Od 2004 roku jest aktywny w Polsce i na świecie w organizacjach i ruchach społecznych budujących otwarty internet. Jest współzałożycielem Creative Commons Polska, Stowarzyszenia Communia i Polskiej Koalicji na rzecz Otwartej Edukacji (KOED). Członek zarządu organizacji Creative Commons i komitetu sterującego Internet Governance Forum Polska.
Nasz raport jest również dostępny na stronie Klubu Jagiellońskiego.
Powstanie raportu „AlgoPolska. Zautomatyzowane podejmowanie decyzji w służbie społeczeństwu” zostało dofinansowane z dotacji PROO w ramach Priorytetu 4 – Rozwój instytucjonalny think tanków obywatelskich.
