Sztuczna inteligencja coraz częściej pojawia się w urzędach jako narzędzie do porządkowania dokumentów, analizowania danych, przygotowywania projektów odpowiedzi i wspierania pracowników w obsłudze spraw. Sama obecność AI w procesie administracyjnym nie oznacza jeszcze, że decyzja została wydana automatycznie. Granica między pomocą technologiczną a faktycznym przejęciem procesu decyzyjnego jest jednak łatwa do przekroczenia. Ma to szczególne znaczenie tam, gdzie wynik systemu wpływa na prawa, obowiązki lub sytuację obywatela.
AI w urzędzie nie jest jednym rodzajem narzędzia
Sztuczna inteligencja w administracji publicznej obejmuje bardzo różne rozwiązania. Część z nich służy do analizy dużych zbiorów danych, część wspiera wyszukiwanie informacji, inne klasyfikują dokumenty, przygotowują podsumowania albo wskazują możliwe warianty rozstrzygnięcia.
W praktyce jedno narzędzie może jedynie porządkować korespondencję, a inne oceniać prawdopodobieństwo wystąpienia określonego zdarzenia albo przypisywać sprawie poziom ryzyka. Nie można więc mówić o „stosowaniu AI” jako o jednej, jednolitej czynności.
Znaczenie ma przede wszystkim cel użycia systemu oraz wpływ jego wyniku na dalszy tok postępowania.
Inaczej należy ocenić narzędzie, które pomaga wyszukać dokument w archiwum, a inaczej system, którego rekomendacja wpływa na przyznanie świadczenia, skierowanie do kontroli albo odmowę wydania zezwolenia. W pierwszym przypadku technologia wspiera czynność techniczną. W drugim może oddziaływać na sytuację prawną konkretnej osoby.
Wspomaganie decyzji nie oznacza podejmowania decyzji
System wspomagania decyzji może przygotować analizę, wykryć zależności, porównać dane albo wskazać ryzyka. Jego rolą jest dostarczenie pracownikowi materiału pomocniczego.
To nadal organ administracji powinien ustalić stan faktyczny, ocenić materiał dowodowy, zastosować właściwe przepisy i uzasadnić rozstrzygnięcie.
Problem zaczyna się wtedy, gdy rekomendacja systemu jest traktowana jak wynik, którego nie należy kwestionować. Może do tego dojść nawet wtedy, gdy formalnie decyzję zatwierdza pracownik.
Jeżeli urzędnik nie zna sposobu działania narzędzia, nie ma dostępu do danych źródłowych, nie potrafi sprawdzić wyniku albo w praktyce nie może go zmienić, udział człowieka staje się pozorny. System nie tylko wspiera wtedy proces, ale faktycznie wyznacza kierunek rozstrzygnięcia.
Takie ryzyko rośnie, gdy narzędzie jest przedstawiane jako obiektywne, precyzyjne i wolne od błędów. Algorytmiczna rekomendacja może sprawiać wrażenie bardziej wiarygodnej niż opinia człowieka, choć nadal jest rezultatem działania modelu opartego na określonych danych, regułach i założeniach.
Decyzja administracyjna dotyczy konkretnego człowieka i konkretnej sprawy
Decyzja administracyjna nie jest ogólną prognozą ani wynikiem statystycznym. Rozstrzyga indywidualną sprawę i wpływa na sytuację prawną oznaczonego adresata.
Jej wydanie wymaga ustalenia istotnych okoliczności, zebrania materiału dowodowego i zastosowania prawa do konkretnego stanu faktycznego. Organ powinien również uwzględnić argumenty strony, ocenić ich znaczenie i wyjaśnić tok własnego rozumowania.
System AI opiera się natomiast na danych, wzorcach i prawdopodobieństwie. Może rozpoznać podobieństwo do innych przypadków, ale nie oznacza to, że potrafi w pełni ocenić wyjątkowe okoliczności danej sprawy.
Model może wskazać, że określony przypadek przypomina grupę spraw zakończonych w podobny sposób. Nie rozstrzyga jednak samodzielnie, czy w konkretnej sytuacji występują przesłanki prawne uzasadniające taki sam wynik.
W administracji publicznej nie można zastąpić indywidualnej oceny prostym dopasowaniem obywatela do kategorii danych.
Zasady postępowania administracyjnego wyznaczają granice automatyzacji
Wykorzystanie sztucznej inteligencji nie wyłącza zasad, które obowiązują organ na każdym etapie postępowania.
Zasada praworządności oznacza, że administracja działa na podstawie i w granicach prawa. System może wspierać analizę, ale nie może tworzyć własnych podstaw rozstrzygnięcia ani zastępować interpretacji przepisów dokonanej przez organ.
Znaczenie ma również obowiązek uwzględniania interesu społecznego i słusznego interesu obywatela. Są to wartości, których nie da się sprowadzić wyłącznie do wyniku modelu statystycznego.
Podobnie jest z zasadą budowania zaufania do państwa. Obywatel powinien rozumieć, dlaczego urząd podjął określoną decyzję. Jeżeli wynik wynika częściowo z analizy algorytmicznej, organ musi być w stanie wyjaśnić rolę systemu w procesie.
Nie wystarczy stwierdzenie, że „tak wskazał program”. Administracja nie może zasłaniać się technologią, zwłaszcza gdy jej użycie wpływa na prawa jednostki.
Równie istotna jest zasada czynnego udziału strony. Obywatel powinien mieć możliwość przedstawienia argumentów, odniesienia się do ustaleń i zakwestionowania materiału, na którym opiera się rozstrzygnięcie.
Jeżeli istotny element oceny powstał z użyciem AI, strona nie powinna być pozbawiona możliwości zrozumienia i zakwestionowania tego wpływu.
Algorytm nie zna pełnego kontekstu sprawy
System AI może przetwarzać ogromne ilości danych szybciej niż człowiek. Nie oznacza to jednak, że rozumie sprawę w taki sam sposób jak urzędnik.
Model może nie uwzględnić informacji, które są rzadkie, nietypowe albo nie występowały w danych użytych do jego stworzenia. Może również przypisać zbyt duże znaczenie cechom, które statystycznie korelują z określonym wynikiem, ale nie powinny przesądzać o sytuacji konkretnej osoby.
W administracji szczególnie niebezpieczne jest nadawanie wynikom algorytmicznym pozoru bezstronności. System nie ma własnych intencji, ale może odtwarzać błędy, nierówności i uproszczenia obecne w danych.
Dlatego rekomendacja AI powinna być traktowana jako materiał wymagający oceny, a nie jako dowód posiadający szczególną wartość tylko ze względu na zastosowaną technologię.
Odpowiedzialność nie przechodzi na system ani dostawcę
Urząd może korzystać z rozwiązania dostarczonego przez zewnętrzną firmę, ale nie traci przez to odpowiedzialności za sposób jego użycia.
Dostawca odpowiada za zaprojektowanie, działanie i zgodność rozwiązania w zakresie wynikającym z prawa oraz umowy. Organ odpowiada natomiast za wybór zastosowania, dobór danych, organizację nadzoru, sposób wykorzystywania wyników i reakcję na błędy.
Nie można przyjąć, że skoro system został zakupiony jako zgodny z określonym standardem, każda decyzja wspierana przez to narzędzie będzie automatycznie prawidłowa.
Urząd powinien wcześniej ustalić:
- do jakich czynności system może być wykorzystywany,
- do jakich zastosowań nie powinien być dopuszczony,
- kto sprawdza wyniki,
- kto może je odrzucić,
- jak dokumentuje się udział AI,
- co dzieje się w przypadku błędu,
- w jaki sposób obywatel może zakwestionować wynik analizy.
Bez takiego przygotowania technologia zaczyna działać poza realną kontrolą organizacyjną.
Granica przebiega tam, gdzie człowiek traci realny wpływ
Nie każde użycie AI w administracji jest ryzykowne w takim samym stopniu.
Niewielkie zagrożenie może wiązać się z wykorzystaniem narzędzia do poprawiania stylu wewnętrznej notatki, pod warunkiem że do systemu nie trafiają dane, których nie powinien przetwarzać.
Znacznie większe ryzyko pojawia się wtedy, gdy AI:
- klasyfikuje obywateli według poziomu ryzyka,
- ocenia prawdopodobieństwo nadużycia,
- wspiera przyznawanie świadczeń,
- analizuje materiał dowodowy,
- wskazuje wynik postępowania,
- wpływa na dostęp do usługi publicznej,
- profiluje osoby na podstawie danych historycznych.
Im większy wpływ narzędzia na sytuację człowieka, tym bardziej szczegółowy powinien być nadzór.
Granica między wspomaganiem a automatycznym rozstrzyganiem nie zależy wyłącznie od nazwy systemu ani opisu przedstawionego przez dostawcę. Zależy od tego, jak narzędzie działa w rzeczywistym procesie.
Jeżeli urzędnik zachowuje dostęp do materiału, samodzielnie ocenia rekomendację i może podjąć inną decyzję, AI pełni funkcję pomocniczą.
Jeżeli wynik systemu jest przyjmowany bez realnej możliwości zakwestionowania, technologia zaczyna zastępować organ w wykonywaniu władzy publicznej.
Bezpieczne użycie AI wymaga procedury
Odpowiedzialne wdrożenie nie może opierać się wyłącznie na dobrej woli pracowników.
Potrzebna jest procedura, która określa cel zastosowania, zakres danych, sposób weryfikacji wyników, odpowiedzialność poszczególnych osób i zasady informowania strony.
Pracownicy powinni wiedzieć nie tylko, jak obsługiwać narzędzie, lecz także kiedy jego wynik wymaga szczególnej ostrożności oraz kiedy systemu nie wolno używać.
Równie ważne jest dokumentowanie przypadków, w których urzędnik odrzucił rekomendację. Pozwala to wykryć powtarzające się problemy, błędy danych albo ograniczenia modelu.
System powinien być również monitorowany po wdrożeniu. Narzędzie, które działało prawidłowo podczas testów, może zmienić swoje zachowanie po aktualizacji, zmianie danych lub rozszerzeniu zakresu stosowania.
AI może wspierać administrację, ale nie może zastąpić odpowiedzialności
Sztuczna inteligencja może skrócić czas analizy, uporządkować duży materiał i pomóc pracownikowi zauważyć zależności trudne do wykrycia bez wsparcia technologicznego.
Nie może jednak przejąć odpowiedzialności za ocenę stanu faktycznego, zastosowanie prawa i skutki rozstrzygnięcia.
Administracja nadal musi działać w sposób przejrzysty, proporcjonalny i możliwy do zakwestionowania. Obywatel ma prawo oczekiwać, że jego sprawa zostanie rozpatrzona indywidualnie, a nie wyłącznie dopasowana do wzorca wyliczonego przez system.
Najważniejsza granica nie przebiega więc między administracją tradycyjną a cyfrową. Przebiega między narzędziem, które pomaga człowiekowi wykonać zadanie, a systemem, który zaczyna faktycznie rozstrzygać za niego.
Artykuł opracowany na podstawie wspólnej publikacji Natalii Madej i Bartłomieja Wilka dotyczącej etycznych i prawnych granic stosowania AI w administracji publicznej.