W Łodzi debatowano o AI. RPO ostrzega przed decyzjami bez ludzkiej odpowiedzialności

Podczas Igrzysk Wolności w Łodzi rozmowa o sztucznej inteligencji szybko zeszła z poziomu technologicznych obietnic na prawa zwykłych ludzi. Sylwia Gregorczyk-Abram wskazywała, że algorytmy mogą wpływać na dostęp do świadczeń, usług publicznych i możliwość odwołania się od decyzji. W centrum debaty znalazło się pytanie, kto odpowiada za rozstrzygnięcie podjęte przy wsparciu systemu AI.

W 13. edycji Igrzysk Wolności, odbywającej się pod hasłem „Tech for Humanity”, rzeczniczka praw obywatelskich uczestniczyła w panelu „Technologia dla ludzkości”. Rozmawiała z Dominikiem Batorskim, socjologiem i badaczem danych z Uniwersytetu Warszawskiego. Debatę prowadziła Magdalena M. Baran.

Wydarzenie poświęcono wpływowi nowych technologii na demokrację, prawa człowieka i przyszłość społeczeństw. W Łodzi spotkali się przedstawiciele nauki, kultury, biznesu oraz życia publicznego z Polski i zagranicy.

Algorytmy mogą utrwalać nierówności i ograniczać prawa

Sylwia Gregorczyk-Abram zwracała uwagę, że sztuczna inteligencja może przynosić korzyści, ale jej działanie wiąże się także z ryzykiem dla ochrony danych osobowych, prywatności i zasady niedyskryminacji. Problem dotyczy również prawa do skutecznego odwołania, gdy decyzja została podjęta z udziałem algorytmu.

„Raport FRA wskazuje, że wykorzystanie AI najczęściej rodzi problemy w obszarze ochrony danych osobowych, prywatności, zakazu dyskryminacji oraz prawa do skutecznego środka odwoławczego” – podkreśliła Sylwia Gregorczyk-Abram, rzeczniczka praw obywatelskich.

Jak wskazywała, systemy analizujące ogromne zbiory danych mogą powielać istniejące nierówności społeczne. Ich zastosowanie może mieć znaczenie między innymi przy przyznawaniu świadczeń, dostępie do usług publicznych oraz w systemach masowego nadzoru.

Z perspektywy mieszkańca oznacza to, że informacja o użyciu algorytmu nie jest wyłącznie technicznym szczegółem. Pozwala ustalić, z czego wynika decyzja i gdzie można ją zakwestionować, jeśli wpływa na sytuację życiową konkretnej osoby.

Najświeższe wiadomości z Łodzi czekają na stronie głównej informacjelodzkie.pl, a koncerty, spotkania i imprezy na najbliższe dni – w kalendarzu wydarzeń.

Urząd nie może zasłaniać się decyzją algorytmu

RPO wskazywała trzy podstawowe warunki bezpiecznego korzystania ze sztucznej inteligencji w administracji: przejrzystość, odpowiedzialność i możliwość podważenia decyzji. Obywatel powinien wiedzieć, czy w postępowaniu wykorzystano algorytm, otrzymać wyjaśnienie rozstrzygnięcia i mieć drogę odwoławczą.

„W demokratycznym państwie nie może istnieć sytuacja, w której urząd odpowiada obywatelowi: „tak zdecydował algorytm”. Odpowiedzialność za decyzję zawsze musi ponosić człowiek i instytucja publiczna” – powiedziała Sylwia Gregorczyk-Abram.

Według rzeczniczki sztuczna inteligencja może wspierać urzędników, ale nie powinna zastępować człowieka w sprawach dotyczących praw i wolności. Rozwój takich narzędzi powinien łączyć się z jasnymi procedurami, odpowiedzialnością instytucji oraz odpowiednim przygotowaniem osób, które z nich korzystają.

Najbardziej wymagające przepisy AI Act dopiero przed wdrożeniem

Podczas debaty zwrócono także uwagę na etap obowiązywania unijnych regulacji dotyczących sztucznej inteligencji. Obecnie stosowane są przede wszystkim przepisy związane z przejrzystością – między innymi obowiązek informowania o wykorzystaniu systemu AI oraz oznaczania wybranych treści wygenerowanych przez sztuczną inteligencję.

„Jesteśmy dziś na etapie budowania przejrzystości i podstaw nadzoru nad sztuczną inteligencją. Najbardziej wymagająca część AI Act, dotycząca systemów mogących najsilniej wpływać na prawa i sytuację obywateli, dopiero przed nami” – zaznaczyła Sylwia Gregorczyk-Abram.

W kolejnych latach mają być wdrażane pełne wymogi dotyczące systemów wysokiego ryzyka. Chodzi między innymi o rozwiązania stosowane w zatrudnieniu, edukacji, dostępie do usług publicznych oraz wymiarze sprawiedliwości. Dlatego już teraz znaczenie mają mechanizmy skargowe i nadzorcze wynikające z ustawy o systemach sztucznej inteligencji.

na podstawie: Rzecznik Praw Obywatelskich.