Sztuczna inteligencja staje się trwałym elementem funkcjonowania administracji publicznej. Urzędy korzystają z narzędzi wspierających analizę danych, porządkowanie dokumentów, przygotowywanie odpowiedzi i ocenę ryzyka. Jednocześnie obywatele oraz przedsiębiorcy używają modeli generatywnych do tworzenia wniosków, skarg, wyjaśnień i odwołań. Technologia wchodzi więc do postępowania z obu stron i coraz wyraźniej wpływa nie tylko na szybkość pracy, lecz także na sposób ustalania faktów, formułowania argumentów i podejmowania rozstrzygnięć.
Nie da się zatrzymać tego procesu prostym zakazem. Potrzebne są natomiast granice, które pozwolą korzystać z korzyści automatyzacji bez osłabiania praw obywatela, odpowiedzialności urzędnika i przejrzystości działania organu. Obecne przepisy tworzą podstawowe ramy ochrony, ale w praktyce wiele zależy od sposobu wdrożenia systemu, jakości procedur i rzeczywistego udziału człowieka.
Prawo powinno rozróżniać pomoc techniczną od rozstrzygania spraw
Nie każde wykorzystanie AI w urzędzie ma takie samo znaczenie. System służący do wyszukiwania dokumentów lub przygotowywania streszczeń nie powinien być oceniany tak samo jak narzędzie wpływające na przyznanie świadczenia, zakwalifikowanie osoby do kontroli albo ustalenie wyniku postępowania.
Kluczowe jest więc rozróżnienie między automatyzacją czynności pomocniczych a automatyzacją procesów ingerujących w prawa jednostki. W pierwszym przypadku AI usprawnia pracę, ale nie przesądza o sytuacji obywatela. W drugim jej rekomendacja może realnie wpływać na rozstrzygnięcie, nawet jeśli na końcu dokument podpisuje człowiek.
Sama formalna obecność urzędnika nie wystarcza. Nadzór ma znaczenie tylko wtedy, gdy pracownik rozumie rolę systemu, zna jego ograniczenia, ma dostęp do materiału źródłowego i może swobodnie podjąć inną decyzję. Jeżeli wynik jest przyjmowany automatycznie, a udział człowieka sprowadza się do zatwierdzenia gotowej rekomendacji, proces pozostaje zautomatyzowany niezależnie od jego oficjalnej nazwy.
Przepisy powinny więc wyraźniej określać minimalny standard kontroli ludzkiej. Nie chodzi o tworzenie fikcyjnego obowiązku kliknięcia dodatkowego przycisku, lecz o zagwarantowanie czasu, kompetencji i uprawnień potrzebnych do samodzielnej oceny sprawy.
Zasady postępowania administracyjnego nadal obowiązują
Wykorzystanie AI nie tworzy nowego rodzaju administracji działającej poza dotychczasowymi zasadami. Organ nadal ma obowiązek informować stronę, zapewniać jej czynny udział oraz wyczerpująco zebrać i ocenić materiał dowodowy.
Jeżeli system uczestniczy w analizie sprawy, obywatel powinien wiedzieć, jaką pełnił funkcję. Nie musi otrzymywać technicznego opisu modelu, ale powinien móc ustalić, czy AI jedynie porządkowała dokumenty, czy także oceniała ryzyko, tworzyła klasyfikację albo rekomendowała określony wynik.
Znaczenie ma także możliwość odniesienia się do rezultatu analizy. Strona powinna móc wskazać, że dane były błędne, niepełne albo nieaktualne, a system nie uwzględnił szczególnych okoliczności. Ponowna ocena powinna być przeprowadzona przez człowieka, a nie polegać na ponownym uruchomieniu tego samego modelu.
Szczególnej ochrony wymaga zasada samodzielnej oceny materiału przez organ. Wynik systemu może stanowić pomoc, ale nie powinien być traktowany jak dowód o uprzywilejowanej wartości. Algorytmiczna rekomendacja nadal wymaga odniesienia do faktów, przepisów i konkretnej sytuacji strony.
Przejrzystość musi być praktyczna, a nie deklaratywna
W wielu wdrożeniach przejrzystość ogranicza się do ogólnej informacji, że urząd może korzystać z narzędzi automatycznych. Taka formuła niewiele mówi obywatelowi i nie pozwala ocenić wpływu technologii na jego sprawę.
Przejrzystość powinna oznaczać możliwość zrozumienia roli AI w procesie. Organ powinien umieć wyjaśnić, jakie zadanie wykonywał system, jakie dane analizował, kto zweryfikował wynik i czy rekomendacja wpłynęła na rozstrzygnięcie.
Nie oznacza to konieczności ujawniania tajemnicy przedsiębiorstwa ani publikowania kodu źródłowego. Wymaga jednak takiego poziomu informacji, który pozwala odróżnić samodzielną ocenę urzędnika od wyniku dostarczonego przez system.
Bez tej wiedzy prawo do odwołania staje się słabsze. Obywatel może kwestionować treść decyzji, ale nie zna mechanizmu, który wpłynął na jej powstanie. Im większy udział AI, tym bardziej szczegółowe powinno być wyjaśnienie procesu.
Administracja potrzebuje zasad odpowiedzialności
Jednym z największych zagrożeń jest rozmycie odpowiedzialności między dostawcę, urząd, dział techniczny i pracownika merytorycznego. Każdy odpowiada za inny fragment, ale w razie błędu trudno ustalić, kto powinien zareagować.
Dostawca odpowiada za projekt, jakość i zgodność systemu w zakresie wynikającym z przepisów oraz umowy. Urząd odpowiada za wybór zastosowania, dobór danych, sposób wdrożenia i organizację nadzoru. Pracownik odpowiada za ocenę wyniku w konkretnej sprawie, ale tylko wtedy, gdy zapewniono mu realne warunki do wykonania tej kontroli.
Nie można oczekiwać od urzędnika odpowiedzialności za rekomendację, której nie potrafi zrozumieć i której nie wolno mu zmienić. Z drugiej strony pracownik nie może zasłaniać się systemem, jeśli bezrefleksyjnie zaakceptował oczywiście błędny wynik.
Dlatego każdemu zastosowaniu AI powinien towarzyszyć jasny podział ról. Należy wskazać właściciela procesu, osoby odpowiedzialne za dane, nadzór techniczny, weryfikację rezultatów i obsługę incydentów. Bez tego technologia szybko zaczyna funkcjonować poza realną kontrolą organizacji.
Szkolenia powinny obejmować prawo, etykę i krytyczną ocenę wyników
Przygotowanie pracowników nie może ograniczać się do obsługi interfejsu. Urzędnik powinien rozumieć, że system może tworzyć nieprawdziwe informacje, pomijać kontekst i powielać błędy obecne w danych. Musi również wiedzieć, kiedy rekomendacja może wpływać na prawa obywatela i wymaga szczególnej ostrożności.
Potrzebne są kompetencje prawne, etyczne i cyfrowe. Pracownik powinien rozpoznawać ryzyko profilowania, dyskryminacji, nadmiernego przetwarzania danych i pozornego nadzoru człowieka. Powinien także umieć wyjaśnić obywatelowi, jaką rolę odegrała AI.
Istotne jest stworzenie kultury, w której wynik systemu można podważyć. Jeżeli pracownicy uznają, że algorytm jest obiektywny i nieomylny, kontrola szybko zamieni się w rutynowe zatwierdzanie rekomendacji.
Szkolenia powinny być powiązane z konkretnymi procedurami. Sama wiedza o ryzyku nie wystarczy, jeśli organizacja nie określi, jak zgłaszać błąd, kiedy wyłączyć narzędzie i kto podejmuje decyzję o dalszym użyciu.
„Zamknięta pętla AI–AI” wymaga szczególnej ostrożności
Nowym wyzwaniem jest sytuacja, w której zarówno obywatel, jak i urząd korzystają z generatywnej AI. Pismo stworzone przez jeden system może być następnie analizowane przez drugi, a odpowiedź urzędu ponownie przetwarzana przez narzędzie używane przez stronę.
Taki model może zwiększać dostępność procedur, ale także osłabiać bezpośrednią komunikację. Istnieje ryzyko, że urzędnik nie przeczyta pełnego pisma, lecz tylko automatyczne streszczenie, a obywatel podpisze argumentację, której nie rozumie.
W skrajnym przypadku procedura zachowuje swoją formalną strukturę, ale faktyczna wymiana treści odbywa się między algorytmami. Człowiek pojawia się na początku i końcu procesu, nie uczestnicząc realnie w rozumowaniu.
Dlatego AI używana do analizy korespondencji powinna mieć charakter pomocniczy. Urzędnik musi mieć dostęp do dokumentu źródłowego i możliwość samodzielnej oceny argumentów. Nie można pozwolić, aby algorytmiczne streszczenie zastępowało rzeczywiste zapoznanie się ze stanowiskiem strony w sprawach ingerujących w jej prawa.
Potrzebne są mechanizmy kontroli przed wystąpieniem szkody
Obecne prawo potrafi reagować na wiele błędów już po ich wystąpieniu. Błędna decyzja może zostać zaskarżona, nierzetelne pismo ocenione negatywnie, a naruszenie ochrony danych objęte postępowaniem kontrolnym. W przypadku systemów AI reakcja wyłącznie po fakcie może jednak być niewystarczająca.
Błąd modelu może wystąpić jednocześnie w dużej liczbie spraw i przez długi czas pozostawać niewidoczny. Dlatego potrzebne są mechanizmy wcześniejszej kontroli: oceny wpływu, testy, audyty, pilotaże i regularne monitorowanie wyników.
Szczególne znaczenie ma analizowanie przypadków, w których pracownicy odrzucili rekomendację systemu, oraz skarg wskazujących na nierówne traktowanie. Takie sygnały mogą ujawnić problem znacznie wcześniej niż kontrola formalna.
System powinien być możliwy do ograniczenia lub wycofania, jeśli nie spełnia wymagań. Urząd nie może uzależnić podstawowego procesu od rozwiązania, nad którym utracił kontrolę albo którego wyników nie potrafi wyjaśnić.
Granicą automatyzacji jest odpowiedzialna decyzja człowieka
Sztuczna inteligencja może poprawiać sprawność administracji, ograniczać czynności rutynowe i pomagać w analizie coraz większej liczby dokumentów. Nie powinna jednak zastępować rozumowania, które jest istotą działania organu.
Technologia może wskazać podobieństwa, przygotować prognozę i uporządkować materiał. Nie przejmuje jednak odpowiedzialności za zastosowanie prawa, ocenę indywidualnej sytuacji i skutki rozstrzygnięcia.
Granice automatyzacji powinny być wyznaczane nie przez techniczne możliwości systemu, lecz przez prawa obywatela, przejrzystość procedury i zdolność organu do wyjaśnienia własnego działania.
AI może wspierać administrację tylko wtedy, gdy człowiek zachowuje rzeczywisty wpływ, obywatel może zakwestionować wynik, a odpowiedzialność pozostaje jasno przypisana. Jeżeli tych warunków brakuje, sprawniejszy proces może okazać się jednocześnie procesem mniej sprawiedliwym, mniej przejrzystym i trudniejszym do skontrolowania.
Artykuł opracowany na podstawie wspólnej publikacji Natalii Madej i Bartłomieja Wilka poświęconej etycznym i prawnym granicom stosowania sztucznej inteligencji w administracji publicznej.