Sprawność działania urzędu nie jest jedyną miarą jakości administracji publicznej. Równie ważne jest to, czy obywatel rozumie sposób załatwienia swojej sprawy, może przedstawić własne stanowisko i wie, kto odpowiada za podjęte rozstrzygnięcie. Wdrażanie sztucznej inteligencji może przyspieszyć analizę dokumentów i ograniczyć część czynności rutynowych, ale źle zaprojektowana automatyzacja może osłabić przejrzystość działania organu oraz zaufanie do państwa.
Problem nie polega na samym wykorzystaniu nowej technologii. Pojawia się wtedy, gdy AI zaczyna uczestniczyć w postępowaniu w sposób niewidoczny dla obywatela, a urzędnik nie potrafi samodzielnie wyjaśnić, jak doszło do określonego wyniku. Administracja nadal wydaje formalne pisma i decyzje, lecz rzeczywisty tok rozumowania zostaje częściowo ukryty w systemie. Z punktu widzenia strony może to oznaczać, że urząd wprawdzie odpowiedział, ale nie wyjaśnił własnego stanowiska.
Zaufanie wymaga możliwości zrozumienia działania urzędu
Zaufanie do administracji nie wynika wyłącznie z tego, czy obywatel otrzymał korzystne rozstrzygnięcie. Buduje je także przekonanie, że sprawa została potraktowana indywidualnie, argumenty zostały przeczytane, a decyzję podjęła osoba zdolna do poniesienia odpowiedzialności za jej treść.
Wykorzystanie AI może ten proces wspierać. System może pomóc odnaleźć właściwe dokumenty, uporządkować obszerny materiał albo zwrócić uwagę na niespójności. Jeżeli jednak jego rekomendacja staje się podstawą działania bez rzeczywistej kontroli, obywatel może zostać oceniony na podstawie kryteriów, których nie zna i których nie potrafi zakwestionować.
Przejrzystość nie oznacza konieczności ujawniania kodu źródłowego ani szczegółów technicznych modelu. Urząd powinien jednak umieć wskazać, czy AI uczestniczyła w analizie, do czego została wykorzystana i jaki wpływ miała na dalsze czynności. Obywatel musi również wiedzieć, kto ocenił wynik i kto podjął ostateczną decyzję.
Jeżeli organ nie potrafi udzielić takiej odpowiedzi, trudno mówić o rzeczywistym nadzorze. Technologia staje się wtedy nie tylko narzędziem wewnętrznym, ale niewidocznym uczestnikiem postępowania.
Procedura nie jest przeszkodą w automatyzacji
Wdrażanie nowych rozwiązań często uzasadnia się potrzebą skrócenia czasu obsługi i odciążenia pracowników. Procedury bywają w takim ujęciu przedstawiane jako element spowalniający proces. Tymczasem ich funkcją jest ochrona obywatela przed arbitralnym działaniem organu.
Obowiązek dokładnego wyjaśnienia sprawy, możliwość przedstawienia stanowiska czy prawo do zapoznania się z materiałem nie są zbędnymi etapami, które technologia powinna ominąć. Wyznaczają standard prawidłowego działania administracji niezależnie od tego, czy dokumenty analizuje wyłącznie człowiek, czy korzysta przy tym z narzędzia AI.
Szczególnie istotne pozostają zasady wynikające z Kodeksu postępowania administracyjnego. Organ powinien informować stronę o okolicznościach mających wpływ na jej prawa, zapewniać czynny udział w postępowaniu oraz samodzielnie i wyczerpująco oceniać materiał dowodowy. Wprowadzenie systemu analitycznego nie może prowadzić do osłabienia tych gwarancji.
Jeżeli AI przygotowuje streszczenie pisma, urzędnik musi mieć możliwość powrotu do pełnej treści. Jeżeli system klasyfikuje sprawę jako podwyższonego ryzyka, wynik powinien zostać sprawdzony w odniesieniu do konkretnych danych. Jeżeli rekomendacja wpływa na projekt rozstrzygnięcia, organ musi potrafić uzasadnić decyzję niezależnie od algorytmicznej oceny.
Technologia może przyspieszyć procedurę, ale nie może jej zastąpić.
Brak wyjaśnienia osłabia możliwość odwołania
Prawo do zakwestionowania rozstrzygnięcia ma znaczenie tylko wtedy, gdy strona zna jego rzeczywiste podstawy. Jeżeli część oceny powstała przy użyciu AI, a urząd ogranicza się do przedstawienia końcowego wyniku, obywatel nie wie, z czym powinien polemizować.
Może próbować podważyć ustalenia faktyczne albo interpretację prawa, podczas gdy kluczowe znaczenie miała automatyczna klasyfikacja oparta na błędnych lub nieaktualnych danych. Bez informacji o roli systemu skuteczna kontrola instancyjna staje się znacznie trudniejsza.
Nie wystarczy również zapewnić możliwości ponownego uruchomienia tej samej analizy. Jeżeli dane i model pozostają niezmienione, system prawdopodobnie ponownie wygeneruje taki sam rezultat. Realna kontrola wymaga udziału człowieka, który zapozna się z materiałem źródłowym, odniesie się do zarzutów strony i może podjąć inną ocenę.
Administracja powinna zatem dokumentować zastosowanie AI w sposób pozwalający odtworzyć, jakie zadanie wykonywał system i jak jego wynik został wykorzystany. Nie każda drobna czynność wymaga rozbudowanego rejestru, ale im większy wpływ narzędzia na sytuację obywatela, tym większa powinna być możliwość prześledzenia procesu.
Brak dokumentacji nie jest tylko problemem organizacyjnym. Może uniemożliwić wykazanie, że decyzja została podjęta przez organ, a nie faktycznie wygenerowana przez system.
Efektywność nie może prowadzić do bezosobowej administracji
Jedną z obietnic AI jest obsługa większej liczby spraw w krótszym czasie. Może to być istotna korzyść, zwłaszcza w jednostkach borykających się z niedoborem pracowników i rosnącą liczbą obowiązków. Nie każda oszczędność czasu oznacza jednak poprawę jakości usługi publicznej.
Jeżeli przyspieszenie polega na ograniczeniu analizy indywidualnych okoliczności, automatycznym klasyfikowaniu obywateli albo zastąpieniu odpowiedzi urzędnika tekstem generowanym bez kontroli, sprawność zostaje osiągnięta kosztem podmiotowego traktowania strony.
Obywatel nie kontaktuje się z administracją wyłącznie po to, aby dokument został przetworzony. Oczekuje, że jego sytuacja zostanie zrozumiana i oceniona zgodnie z prawem. W wielu sprawach znaczenie mają okoliczności nietypowe, trudne do zapisania w formularzu i rzadko występujące w danych historycznych. To właśnie one mogą zostać pominięte przez system nastawiony na wykrywanie typowych wzorców.
Administracja oparta na automatyzacji nie powinna więc dążyć do usunięcia człowieka z procesu, ale do lepszego wykorzystania jego kompetencji. AI może przejąć część czynności technicznych, aby pracownik miał więcej czasu na analizę spraw wymagających indywidualnej oceny. Jeżeli wdrożenie prowadzi do odwrotnego skutku i urzędnik jedynie zatwierdza seryjnie przygotowane wyniki, technologia nie poprawia jakości administracji. Jedynie przyspiesza jej bezosobowe działanie.
Zaufanie trzeba projektować razem z systemem
Zaufania publicznego nie da się dodać po zakończeniu wdrożenia. Musi być uwzględnione już podczas wyboru zastosowania AI, projektowania procedury i określania obowiązków pracowników.
Urząd powinien wcześniej ustalić, które informacje zostaną przekazane obywatelowi, jak można zakwestionować wynik, kto odpowiada za ponowną ocenę oraz jak postąpić, gdy system popełni błąd. Potrzebny jest również sposób reagowania na skargi i sygnały wskazujące, że narzędzie działa inaczej wobec określonych grup lub typów spraw.
Znaczenie ma język komunikacji. Informacja o wykorzystaniu AI nie powinna przypominać technicznego regulaminu ani ogólnej klauzuli pozbawionej praktycznej treści. Obywatel powinien zrozumieć, co system zrobił, czego nie robił i jaka była rola człowieka.
Równie ważne jest przygotowanie pracowników. Urzędnik musi potrafić nie tylko obsłużyć narzędzie, ale także wyjaśnić jego udział w sprawie. Powinien wiedzieć, kiedy wynik wymaga szczególnej kontroli, kiedy trzeba odstąpić od rekomendacji i jak udokumentować własną ocenę.
Zaufanie nie wynika z zapewnienia, że technologia jest nowoczesna i bezpieczna. Powstaje wtedy, gdy obywatel widzi, że urząd zachowuje kontrolę, potrafi wyjaśnić swoje działanie i bierze odpowiedzialność za skutki.
AI nie może pozbawić administracji ludzkiego charakteru
Sztuczna inteligencja stanie się trwałym elementem funkcjonowania administracji. Będzie używana zarówno przez urzędy, jak i przez obywateli. Dlatego najważniejszym zadaniem nie jest zatrzymanie automatyzacji, lecz wyznaczenie jej granic.
System może wspierać pracownika, ale nie powinien usuwać odpowiedzialnego rozumowania z postępowania. Może przygotować podsumowanie, ale nie powinien przesądzać, które argumenty obywatela zasługują na uwagę. Może wskazać podobne przypadki, ale nie może zastąpić indywidualnej oceny. Może przygotować projekt odpowiedzi, lecz organ musi rozumieć i zaakceptować każde stanowisko przedstawione stronie.
Zaufanie do państwa słabnie nie dlatego, że urząd używa technologii, ale wtedy, gdy nie wiadomo, kto naprawdę podjął decyzję i na jakiej podstawie. Administracja może być cyfrowa, zautomatyzowana i sprawna, a jednocześnie pozostać przejrzysta oraz odpowiedzialna. Warunkiem jest zachowanie człowieka nie jako formalnego podpisu pod wynikiem, lecz jako rzeczywistego uczestnika procesu.
Sztuczna inteligencja powinna pomagać urzędnikowi lepiej wykonywać zadania publiczne. Nie może doprowadzić do sytuacji, w której procedura zachowuje swoją formę, ale traci sens jako przestrzeń dialogu, wyjaśnienia i odpowiedzialnej decyzji.
Artykuł opracowany na podstawie wspólnej publikacji Natalii Madej i Bartłomieja Wilka dotyczącej etycznych i prawnych granic stosowania systemów sztucznej inteligencji w administracji publicznej.