Sztuczna inteligencja zmienia nie tylko sposób pracy urzędów. Coraz częściej wpływa również na to, jak obywatele przygotowują wnioski, skargi, odwołania i wyjaśnienia. W praktyce może dojść do sytuacji, w której pismo zostaje wygenerowane przez jeden system AI, a następnie przeanalizowane przez inne narzędzie wykorzystywane po stronie administracji. Odpowiedź urzędu może zostać przygotowana przy wsparciu kolejnego modelu, po czym obywatel ponownie przetwarza ją za pomocą AI. Powstaje wtedy zamknięta pętla komunikacyjna, w której człowiek nadal formalnie uczestniczy w postępowaniu, ale coraz większa część rzeczywistej wymiany informacji odbywa się między systemami.
Zjawisko to nie jest już abstrakcyjnym scenariuszem. Generatywna AI jest powszechnie dostępna i pozwala przygotować formalnie wyglądające pismo w kilka minut. Dla wielu osób jest to realne ułatwienie. Narzędzie może pomóc uporządkować myśli, poprawić język, wyjaśnić procedurę albo stworzyć pierwszą wersję dokumentu. W szczególności może wspierać osoby, które mają trudność z redagowaniem pism, nie znają języka prawnego lub nie wiedzą, jak przedstawić sprawę urzędowi.
Problem zaczyna się wtedy, gdy treść wygenerowana przez AI zostaje uznana za wiarygodną tylko dlatego, że brzmi profesjonalnie. Model może stworzyć spójne i przekonujące uzasadnienie, powołać przepisy, wskazać orzeczenia i uporządkować argumentację, a mimo to oprzeć całość na błędnych danych. Może przywołać nieistniejący artykuł, pomylić podstawę prawną, stworzyć fałszywą sygnaturę albo nadać przepisowi znaczenie, którego ten nie posiada.
Dla administracji oznacza to nowe obciążenie. Urzędnik nie ocenia już wyłącznie treści przygotowanej przez człowieka, lecz coraz częściej tekst, którego autor nie rozumie w pełni albo nie potrafi zweryfikować. Pismo może być znacznie dłuższe niż to konieczne, zawierać powtórzenia i rozbudowane fragmenty bez znaczenia dla sprawy. Językowa poprawność utrudnia szybkie rozpoznanie, że argumentacja jest pozorna.
Algorytmiczne pośrednictwo między obywatelem a organem
W klasycznym modelu postępowania obywatel przedstawia swoje stanowisko, a organ analizuje je i odpowiada. W modelu opartym na AI między stroną a urzędem pojawia się dodatkowy pośrednik. System wpływa na to, w jaki sposób obywatel formułuje argumenty, jakie kwestie uznaje za istotne i jaki język wybiera. Po stronie administracji inne narzędzie może streszczać pismo, klasyfikować je, wskazywać priorytet albo przygotowywać projekt odpowiedzi.
Taka forma wsparcia może poprawiać efektywność. Duże urzędy otrzymują tysiące dokumentów, a część z nich jest powtarzalna lub wymaga jedynie wstępnego uporządkowania. AI może pomóc przypisać korespondencję do właściwej komórki, wyodrębnić dane, rozpoznać temat i przygotować skrót dla pracownika.
Niebezpieczeństwo pojawia się wtedy, gdy skrót zastępuje pełną treść. System może pominąć fragment, który nie odpowiada typowemu wzorcowi, ale ma kluczowe znaczenie dla konkretnej sprawy. Może nieprawidłowo zinterpretować emocjonalny lub nieprecyzyjny opis sytuacji, uznać ważny argument za dygresję albo połączyć kilka odrębnych kwestii w jedną.
Jeżeli urzędnik zapoznaje się wyłącznie z automatycznym podsumowaniem, nie analizuje już rzeczywistej wypowiedzi obywatela, lecz jej algorytmiczną interpretację. Wówczas AI przestaje być narzędziem porządkującym, a zaczyna wpływać na ustalenie stanu faktycznego.
Prawo do bycia wysłuchanym nie może być automatyzowane
Jedną z podstawowych zasad postępowania administracyjnego jest zapewnienie stronie realnego udziału w sprawie. Obywatel powinien mieć możliwość przedstawienia swoich racji, odniesienia się do ustaleń organu i wyjaśnienia okoliczności, których nie da się sprowadzić do prostego schematu.
Zamknięta pętla AI–AI może osłabiać ten mechanizm. Formalnie strona składa pismo, a urząd na nie odpowiada. W praktyce jednak pierwszą wersję tworzy system, następnie inny model ją streszcza, a kolejny przygotowuje projekt odpowiedzi. Na końcu każdy z uczestników jedynie zatwierdza wygenerowaną treść.
Taki proces zachowuje pozory komunikacji, ale ogranicza bezpośredni kontakt między człowiekiem a organem. Najważniejszym ryzykiem nie jest samo użycie narzędzia, lecz stopniowe usuwanie ludzkiego rozumowania z kolejnych etapów sprawy.
Administracja powinna więc odróżniać czynności, które można bezpiecznie wspierać automatycznie, od tych, które wymagają rzeczywistego zapoznania się z treścią. W sprawach wpływających na prawa i obowiązki obywatela pracownik powinien mieć dostęp do pełnego dokumentu, a nie jedynie do streszczenia wygenerowanego przez system.
Podobnie obywatel powinien wiedzieć, że jego pismo może być analizowane automatycznie. Nie oznacza to konieczności opisywania każdej funkcji technicznej, ale wymaga przejrzystości co do roli systemu. Strona powinna mieć możliwość ustalenia, czy AI jedynie uporządkowała dokument, czy także wpłynęła na ocenę jego treści.
AI może zwiększać dostępność procedur, ale nie gwarantuje poprawności
Generatywna sztuczna inteligencja może obniżać próg wejścia do procedur administracyjnych. Osoba, która nie potrafi napisać formalnego pisma, może uzyskać pomoc w uporządkowaniu argumentów i stworzeniu czytelnego dokumentu. Z tej perspektywy AI może wspierać dostęp do prawa i ograniczać bariery językowe.
Nie należy więc traktować każdego pisma przygotowanego przy użyciu AI jako podejrzanego. Administracja nie powinna różnicować dokumentów ze względu na sposób ich powstania. Liczy się treść, znaczenie prawne i zgodność ze stanem faktycznym.
Jednocześnie użytkownik, który podpisuje lub wysyła pismo, pozostaje odpowiedzialny za jego zawartość. Nie może skutecznie zasłaniać się tym, że błędne przepisy lub informacje zostały wygenerowane przez model. Narzędzie może wspierać redagowanie, ale nie przejmuje autorstwa ani odpowiedzialności.
Po stronie urzędu obowiązuje podobna zasada. Projekt odpowiedzi przygotowany przez AI nie staje się stanowiskiem organu, dopóki nie zostanie sprawdzony i świadomie zatwierdzony. Urzędnik nie może traktować wygenerowanego tekstu jak gotowej analizy prawnej. Musi zweryfikować przepisy, fakty, zakres żądania i znaczenie poszczególnych argumentów.
Ryzyko technologicznego wyścigu
Jeżeli systemy AI zaczną powszechnie filtrować i klasyfikować pisma, użytkownicy mogą próbować dostosowywać ich treść do sposobu działania algorytmów. Zamiast pisać tak, aby przekazać istotę sprawy, będą tworzyć dokumenty mające osiągnąć określony wynik w automatycznej analizie.
Może to prowadzić do technologicznego wyścigu. Obywatele i przedsiębiorcy będą używać coraz bardziej zaawansowanych narzędzi do przygotowywania pism, a administracja będzie rozwijać mechanizmy selekcji, wykrywania i automatycznego oceniania takich treści.
W takim modelu znaczenie może stracić jakość argumentu. Ważniejsza stanie się znajomość sposobu działania systemu. Osoby posiadające lepsze narzędzia, większe kompetencje cyfrowe lub możliwość skorzystania z profesjonalnego wsparcia uzyskają przewagę nad tymi, którzy takich zasobów nie mają.
Postępowanie administracyjne nie powinno przekształcać się w grę polegającą na optymalizowaniu treści pod algorytm. Jego celem pozostaje rozstrzygnięcie konkretnej sprawy zgodnie z prawem, po uwzględnieniu stanowiska strony i materiału dowodowego.
Człowiek musi pozostać rzeczywistym uczestnikiem procesu
Odpowiedzią na zamkniętą pętlę AI–AI nie powinien być zakaz korzystania z technologii. Taki zakaz byłby trudny do wyegzekwowania i pozbawiłby obywateli oraz urzędy realnych korzyści. Potrzebne są natomiast zasady, które utrzymują ludzką kontrolę nad najważniejszymi etapami komunikacji.
System używany do analizy korespondencji powinien mieć charakter pomocniczy. Urzędnik musi móc sprawdzić dokument źródłowy, zweryfikować streszczenie i samodzielnie ocenić argumenty. W sprawach ingerujących w prawa jednostki nie można opierać rozstrzygnięcia wyłącznie na automatycznej klasyfikacji.
Podobnie projekty odpowiedzi generowane przez AI powinny być traktowane jako materiał roboczy. Każdy przepis, twierdzenie i wniosek musi zostać sprawdzony przez osobę odpowiedzialną za sprawę. Należy również dokumentować, w jakim zakresie system był używany, szczególnie gdy jego wynik wpływał na analizę materiału.
Najważniejsze jest zachowanie sensu procedury administracyjnej. Jej istotą nie jest wymiana formalnie poprawnych dokumentów, lecz odpowiedzialne rozpatrzenie sprawy przez organ i rzeczywista możliwość przedstawienia stanowiska przez obywatela.
Zamknięta pętla AI–AI pokazuje, że technologia może zmienić relację państwo–obywatel znacznie głębiej niż przez zwykłe przyspieszenie obsługi. Jeżeli systemy zaczną generować, analizować i odpowiadać na treści bez realnego udziału człowieka, procedura zachowa formę, ale utraci swój dialogiczny charakter.
Sztuczna inteligencja może wspierać komunikację. Nie może jednak doprowadzić do sytuacji, w której obywatel i urząd formalnie ze sobą rozmawiają, choć w rzeczywistości komunikują się przede wszystkim algorytmy.
Artykuł opracowany na podstawie wspólnej publikacji Natalii Madej i Bartłomieja Wilka poświęconej etycznym i prawnym granicom stosowania sztucznej inteligencji w administracji publicznej.