Najpoważniejsze ryzyko związane z wykorzystywaniem sztucznej inteligencji w administracji nie pojawia się wtedy, gdy pracownik korzysta z narzędzia do poprawienia stylu pisma albo uporządkowania obszernego materiału. Problem zaczyna się w chwili, gdy wygenerowana treść zastępuje samodzielną analizę, a osoba odpowiedzialna za dokument nie potrafi wyjaśnić, skąd pochodzą przedstawione argumenty i czy mają one oparcie w prawie oraz faktach.
Praktyka pokazuje, że profesjonalny język potrafi skutecznie ukryć brak rzetelności. Tekst przygotowany przez model może wyglądać jak kompletne uzasadnienie prawne, zawierać logiczną strukturę, powołania na przepisy i pozornie precyzyjne wnioski. Jeżeli jednak nikt nie sprawdzi źródeł, pod warstwą poprawnej formy mogą znajdować się nieistniejące orzeczenia, błędne podstawy prawne i argumenty, które nie odnoszą się do rozpatrywanej sprawy.
Problemem nie jest samo użycie AI
W debacie publicznej zbyt często próbuje się rozstrzygnąć, czy korzystanie ze sztucznej inteligencji przy przygotowywaniu pism jest dopuszczalne. Tak postawione pytanie prowadzi do uproszczeń. Narzędzie może wspierać pracę w sposób odpowiedzialny albo zostać użyte tak, że całkowicie zastąpi analizę człowieka.
Nie ma powodu, aby zakazywać urzędnikowi korzystania z systemu pomagającego uporządkować notatki, wyszukać powtarzające się fragmenty dokumentacji albo stworzyć pierwszą wersję neutralnego komunikatu. Takie wsparcie nie różni się zasadniczo od korzystania z innych narzędzi informatycznych, pod warunkiem że pracownik kontroluje treść, chroni dane i potrafi zweryfikować rezultat.
Inaczej należy ocenić sytuację, w której model przygotowuje argumentację prawną, analizuje materiał dowodowy lub tworzy uzasadnienie rozstrzygnięcia, a człowiek ogranicza się do zaakceptowania gotowego tekstu. Wtedy trudno mówić o technologii wspomagającej pracę. System zaczyna wykonywać czynność, za którą odpowiedzialność powinna pozostać po stronie osoby wydającej rozstrzygnięcie.
Granica nie przebiega więc między użyciem a nieużywaniem AI. Przebiega między świadomym wsparciem a zastąpieniem ludzkiego rozumowania.
Orzeczenie musi być wynikiem rozumowania konkretnej osoby
Szczególnie wyraźnie problem widać w sprawach sądowych. W publikacji przywołano przypadek z Kolumbii, w którym zakwestionowano wykorzystanie generatywnej AI do przygotowania uzasadnienia orzeczenia bez ujawnienia tego faktu. W tekście pojawiły się nieistniejące precedensy i argumenty, których nie można było zweryfikować. Nie dało się również ustalić, czy przedstawiony tok rozumowania rzeczywiście należał do sędziego.
Znaczenie tego przypadku wykracza poza sądownictwo. Każde rozstrzygnięcie organu publicznego powinno być możliwe do przypisania osobie lub organowi, który je wydał. Nie chodzi wyłącznie o podpis pod dokumentem. Odpowiedzialność wymaga zdolności do wyjaśnienia, jakie fakty zostały przyjęte, jakie przepisy zastosowano i dlaczego określonym argumentom nadano konkretne znaczenie.
Jeżeli uzasadnienie zostało wygenerowane przez system, a osoba podpisująca nie potrafi odtworzyć toku rozumowania, podpis staje się formalnym potwierdzeniem cudzej, a właściwie maszynowej, wypowiedzi. Organ zachowuje zewnętrzną formę działania, ale traci kontrolę nad jego treścią.
W administracji ryzyko może pojawić się przy projektach decyzji, odpowiedziach na skargi, interpretacjach przepisów albo analizach dokumentacji. Tekst wygenerowany przez AI może zostać uznany za poprawny dlatego, że brzmi urzędowo. Tymczasem urzędowy styl nie jest dowodem zgodności z prawem.
KIO pokazuje, że odpowiedzialność za treść pozostaje po stronie autora
Drugim ważnym przykładem są postępowania przed Krajową Izbą Odwoławczą dotyczące wyjaśnień składanych przez wykonawcę. W analizowanych sprawach pojawiły się odwołania do nieistniejących interpretacji, błędne podstawy prawne i argumenty nieadekwatne do przedmiotu zamówienia. Teksty były językowo poprawne, ale po sprawdzeniu okazały się normatywnie fałszywe.
KIO nie koncentrowała się na ustaleniu, czy dokumenty powstały przy pomocy AI. Istotne było to, że zawarte w nich twierdzenia nie wytrzymywały weryfikacji. Autor dokumentu odpowiadał za jego treść niezależnie od narzędzia użytego podczas przygotowania.
To podejście ma duże znaczenie dla administracji. Nie trzeba tworzyć osobnej kategorii błędu „wygenerowanego przez AI”, aby prawidłowo ocenić nierzetelny materiał. Nadal obowiązują klasyczne zasady: prawdziwość informacji, należyta staranność, możliwość sprawdzenia źródeł i odpowiedzialność osoby składającej dokument.
Jednocześnie przypadki te pokazują ograniczenie reakcji następczej. Prawo potrafi ocenić wadliwe pismo po jego złożeniu, ale szkoda może już wtedy wystąpić. Postępowanie zostaje wydłużone, organ musi poświęcić czas na weryfikowanie pozornie profesjonalnych argumentów, a błędna treść może wpłynąć na wcześniejsze działania uczestników.
Dlatego odpowiedzialne wykorzystanie AI wymaga nie tylko możliwości wyciągnięcia konsekwencji po błędzie, lecz także procedur zapobiegających przekazaniu nierzetelnego dokumentu.
Profesjonalny tekst nie może otrzymywać domniemania prawdziwości
Systemy generatywne bardzo dobrze odtwarzają styl dokumentów prawnych i urzędowych. Potrafią tworzyć zdania rozbudowane, używać specjalistycznych pojęć i budować pozornie logiczne wywody. Właśnie dlatego ich błędy mogą być bardziej niebezpieczne niż zwykła pomyłka.
Chaotyczny dokument szybko wzbudza ostrożność. Tekst poprawny stylistycznie obniża czujność czytającego. Urzędnik może uznać, że skoro argumentacja wygląda fachowo, została wcześniej sprawdzona przez autora. W przypadku treści generatywnych takie założenie jest szczególnie ryzykowne.
Organ powinien więc oceniać twierdzenia według ich znaczenia, a nie formy. Każda podstawa prawna wpływająca na rozstrzygnięcie wymaga sprawdzenia. To samo dotyczy orzeczeń, cytatów, danych liczbowych oraz informacji o właściwości organów.
Nie oznacza to, że każde pismo trzeba traktować jak potencjalne oszustwo. Administracja nie powinna próbować wykrywać stylu AI ani różnicować dokumentów według przypuszczalnego sposobu ich powstania. Powinna natomiast stosować taki sam standard weryfikacji do każdej treści mającej znaczenie prawne.
Administracja powinna wymagać możliwości odtworzenia analizy
Jedną z najważniejszych lekcji wynikających z opisanych przypadków jest potrzeba zachowania materiału pozwalającego odtworzyć tok pracy. Jeżeli AI została użyta do przygotowania ważnego dokumentu, osoba zatwierdzająca powinna wiedzieć, które fragmenty wymagają szczególnej kontroli i na jakich źródłach oparto ostateczną wersję.
Nie chodzi o archiwizowanie każdej rozmowy z narzędziem ani tworzenie rozbudowanego rejestru do prostych czynności redakcyjnych. Zakres dokumentowania powinien odpowiadać ryzyku. Inne znaczenie ma korekta językowa, a inne wygenerowanie analizy prawnej wpływającej na wynik sprawy.
W przypadku dokumentów o istotnych skutkach pracownik powinien zachować źródła, z których korzystał podczas weryfikacji, oraz umieć wyjaśnić, w jaki sposób doszedł do przedstawionych wniosków. Jeżeli nie jest w stanie tego zrobić, nie powinien zatwierdzać treści jako stanowiska organu.
Podobna zasada powinna obowiązywać wykonawców i inne podmioty współpracujące z administracją. Urząd nie musi zakazywać im korzystania z AI, ale może wymagać odpowiedzialności za prawdziwość i weryfikowalność materiałów. W dokumentach składanych w postępowaniach publicznych nie ma miejsca na argumenty, których źródła nie potrafi wskazać sam autor.
Potrzebna jest odpowiedzialność przed i po błędzie
Obecne ramy prawne pozwalają reagować na wiele skutków nierzetelnego wykorzystania sztucznej inteligencji. Błędne pismo może zostać ocenione negatywnie, nieprawidłowa decyzja uchylona, a naruszenie zasad ochrony danych objęte postępowaniem kontrolnym. Taka reakcja następuje jednak najczęściej po wystąpieniu problemu.
W przypadku AI szczególnego znaczenia nabiera kontrola wcześniejsza. Jeden błędny sposób użycia może zostać powielony w wielu dokumentach. Jeżeli urząd wykorzystuje ten sam model do przygotowywania projektów odpowiedzi, nieprawidłowa interpretacja może pojawiać się systematycznie, zanim ktokolwiek rozpozna wspólne źródło problemu.
Dlatego organizacja powinna analizować nie tylko pojedyncze błędy, ale też ich powtarzalność. Jeżeli pracownicy regularnie poprawiają te same elementy generowanych tekstów, oznacza to, że narzędzie nie działa prawidłowo w danym zastosowaniu albo sposób jego użycia wymaga zmiany.
System nie powinien być utrzymywany wyłącznie dlatego, że został już zakupiony i wdrożony. Jeżeli nie zapewnia wyników możliwych do skutecznej weryfikacji albo powoduje więcej pracy niż oszczędności, urząd powinien ograniczyć jego zakres lub zrezygnować z danego zastosowania.
AI może przygotować tekst, ale nie może przejąć odpowiedzialności
Przypadki analizowane w publikacji pokazują, że tradycyjne zasady odpowiedzialności pozostają aktualne także w świecie generatywnej sztucznej inteligencji. Człowiek odpowiada za dokument, który podpisuje, składa albo przedstawia jako stanowisko organu. Nie ma znaczenia, czy tekst napisał samodzielnie, zlecił jego przygotowanie innej osobie czy wygenerował przy pomocy modelu.
Nowość polega na tym, że system potrafi stworzyć bardzo przekonujący pozór kompletnego rozumowania. To zwiększa ryzyko, że autor zaakceptuje treść, której nie sprawdził i której nie potrafi obronić.
Administracja powinna korzystać z AI tam, gdzie technologia rzeczywiście wspiera pracownika, a nie zastępuje jego odpowiedzialność. Narzędzie może przygotować projekt, wskazać podobne dokumenty albo pomóc uporządkować argumenty. Ostateczny tekst musi jednak pozostać rezultatem świadomej analizy człowieka.
Granica zostaje przekroczona wtedy, gdy osoba podpisująca dokument nie potrafi już wyjaśnić, dlaczego znalazły się w nim określone twierdzenia. W tym momencie AI przestaje być pomocą i zaczyna zastępować rozumowanie, które powinno należeć do urzędnika, organu, sędziego albo profesjonalnego uczestnika postępowania.
Artykuł opracowany na podstawie wspólnej publikacji Natalii Madej i Bartłomieja Wilka dotyczącej etycznych i prawnych granic stosowania systemów sztucznej inteligencji w administracji publicznej.