IT / nowe technologie / społeczeństwo

Człowiek i SI. Zróbmy to lepiej niż Amerykanie

Kto będzie sprawował kontrolę – człowiek czy sztuczna inteligencja? – Zautomatyzowany sposób podejmowania decyzji jest ważnym trendem w ramach rozwoju sztucznej inteligencji, który dociera do Polski. Algorytmy jeszcze nie rządzą Polakami, ale coraz częściej przejmują kontrolę i odpowiedzialność za nasze zachowania – mówią eksperci fundacji Centrum Cyfrowego i Klubu Jagiellońskiego.

– Mamy szansę, aby zapobiec temu, co dzieje się już w Stanach Zjednoczonych. Tamtejsi obywatele coraz częściej nie mają wiedzy i wpływu na to, jak algorytm ocenia ich w kluczowych obszarach życia – w pracy, w szkole, na uczeni, w sądzie czy u lekarza. Mają wysokie PKB kraju, ale oddalają się od modelu zdrowego społeczeństwa – alarmuje dr Alek Tarkowski, prezes fundacji Centrum Cyfrowe, która wraz z Klubem Jagiellońskim opublikowała raport o tym, co robić, aby to algorytmy służyły społeczeństwu, a nie na odwrót.

Innowacyjne zapóźnienie jest szansą dla Polski

Zdaniem autorów raportu, którzy przez kilka miesięcy analizowali przykłady wdrożeń oraz analizy kluczowych organizacji monitorujących to, jakie są skutki zautomatyzowanego podejmowania decyzji, nie musimy popełnić tych samych błędów, które popełniono na Zachodzie.

– Skala wdrożenia technologii cyfrowych w społeczeństwie i gospodarce w Polsce jest wciąż dużo niższa niż na Zachodzie. Z jednej strony to martwi, bo odbija się na PKB kraju i pozostawia nas na końcu rankingów innowacyjności. Z drugiej takie opóźnienie to szansa na to, aby zadbać o kondycję społeczną i zasady, na których chcemy wdrożyć sztuczną inteligencję w naszym kraju. Z korzyścią zarówno dla gospodarki, jak i społeczeństwa – komentuje Tarkowski z fundacji Centrum Cyfrowe.

Niesprawiedliwe decyzje krzywdzące obywateli

Eksperci wskazują, w wyniku wprowadzenia sztucznej inteligencji obywatele zostają pozbawieni wiedzy o tym, według jakich kryteriów technologie cyfrowe podejmują o nich decyzje. Zdarza się również, że niesprawiedliwa decyzja bywa wynikiem wadliwie skonstruowanego algorytmu. – Ktoś nie dostał kredytu w banku, ktoś nie może zapisać dzieci do wymarzonej szkoły, ktoś nie dostaje zleceń – każdy chciałby dowiedzieć się, dlaczego tak się dzieje – przekonuje dr Alek Tarkowski.

Jego zdaniem, wszystko byłoby w porządku, gdybyśmy mieli wgląd w zautomatyzowane procesy decyzyjne podejmowane przez sztuczną inteligencję. Moglibyśmy zweryfikować to, czy są sprawiedliwe. – Doświadczenia z innych krajów pokazują, że obywatele stają się ofiarami zautomatyzowanych procesów decyzyjnych, które prowadzą także do pogłębiania nierówności społecznych, nasilają rasizm czy mogą pogłębiać ubóstwo – dodaje Tarkowski.

Szanse i zagrożenia zautomatyzowanego sposobu podejmowania decyzji

Autorzy raportu opisują dwie strony medalu, wskazując zarówno korzyści, jakie nasz kraj będzie mieć z wdrożenia technologii cyfrowych na masową skalę, jak i wyzwania.

– Jako kraj będziemy bardziej efektywni pod każdym względem, nasze decyzje będą bazować wyłącznie na danych i wiedzy, nie na emocjach, wyeliminujemy ludzkie błędy, w tym przykładowo stronniczość – wylicza Bartosz Paszcza z Klubu Jagiellońskiego, współautor raportu. – Z drugiej strony możemy stracić kontrolę nad współpracą z komputerami, sprawiedliwością i przejrzystością tego, co się dzieje w naszym życiu, nie mówiąc o utracie prywatności. Jeśli oddamy proces decyzyjny algorytmom, zatracimy też naszą kulturę na rzecz globalnych wzorców. Podsumowując – oddamy odpowiedzialność w ręce algorytmów – podsumowuje Paszcza.

O raporcie

Raport pt. „Zautomatyzowane podejmowanie decyzji w służbie społeczeństwu” został przygotowany przez ekspertów fundacji Centrum Cyfrowe i Klubu Jagiellońskiego. Prezentuje przykłady na to, jak algorytmy podejmują decyzje za ludzi w kluczowych obszarach: prewencji przestępstw, rynku pracy, opiece społecznej i medycznej, edukacji, dostępie do kultury i informacji, finansach i sądownictwie. Autorzy uwzględnili przykłady z Polski i z zagranicy. Zaznaczają, że opracowanie nie jest kompleksowym źródłem przykładów zastosowania sztucznej inteligencji, a ich selekcją, która pomoże zrozumieć skalę stojącego przed nami wyzwania. Raport zawiera też rekomendacje, jak rozwijać w Polsce, w sposób zrównoważony, systemy automatycznego podejmowania decyzji.

Cały raport jest dostępny pod linkiem: https://centrumcyfrowe.pl/algopolska-raport/.