Generatywna sztuczna inteligencja pozwala w kilka minut przygotować wniosek, odwołanie, wyjaśnienie albo rozbudowaną argumentację prawną. Tekst może być uporządkowany, poprawny językowo i przekonujący, a mimo to zawierać błędne podstawy prawne, nieistniejące orzeczenia albo twierdzenia całkowicie oderwane od stanu faktycznego. W postępowaniu administracyjnym problem nie kończy się więc na pytaniu, czy AI została użyta. Znacznie ważniejsze jest to, kto odpowiada za treść dokumentu i jak urząd powinien ocenić materiał, który tylko pozornie wygląda na profesjonalny.
Formalnym autorem pozostaje osoba składająca pismo
Pismo złożone do urzędu jest przypisywane osobie, która je podpisała albo wysłała przez właściwy system. Nie zmienia tego fakt, że dokument został przygotowany przy pomocy modelu językowego. AI może wspierać redagowanie, porządkować argumenty i proponować strukturę, ale nie staje się stroną postępowania ani pełnomocnikiem autora.
Osoba składająca dokument odpowiada za jego treść, podobnie jak odpowiadałaby za tekst przygotowany na podstawie wzoru, znalezionego w internecie albo otrzymanego od innej osoby. Nie może skutecznie uchylić się od tej odpowiedzialności, wskazując, że nieistniejący przepis został wygenerowany przez system. Podpis oznacza przyjęcie treści jako własnego stanowiska.
Ma to szczególne znaczenie wtedy, gdy pismo zawiera rozbudowaną argumentację prawną. Model może powołać ustawę, która nie obowiązuje, pomylić numer artykułu, połączyć przepisy z różnych aktów albo stworzyć sygnaturę orzeczenia, które nigdy nie zostało wydane. Językowa płynność sprawia, że błąd bywa trudniejszy do zauważenia niż w zwykłym, nieprofesjonalnie napisanym dokumencie.
Sztuczna inteligencja nie pracuje jak urzędowy system informacji prawnej. Generuje tekst na podstawie prawdopodobieństwa, a nie na podstawie gwarancji zgodności ze stanem prawnym. Jeżeli użytkownik nie zweryfikuje źródeł, ryzykuje, że podpisze argumentację, której sam nie rozumie i której nie da się obronić.
Urząd ocenia treść, a nie sposób jej powstania
Administracja nie ma obowiązku ustalać, czy pismo zostało napisane samodzielnie, przez prawnika czy przy użyciu AI. W praktyce takie ustalenie byłoby zresztą bardzo trudne. Narzędzia służące do rozpoznawania tekstów generowanych automatycznie są zawodne, a styl sam w sobie nie stanowi wiarygodnego dowodu.
Organ powinien badać prawdziwość informacji, znaczenie argumentów, poprawność podstaw prawnych i zgodność dokumentu z wymaganiami postępowania. Pismo przygotowane przez AI podlega takiej samej ocenie jak każde inne. Nie może być automatycznie odrzucane tylko ze względu na podejrzenie użycia technologii, ale nie może też korzystać z taryfy ulgowej.
Językowa poprawność nie może zastępować rzetelności. Jeżeli dokument powołuje przepis, którego nie ma, organ powinien to stwierdzić i ocenić znaczenie błędu dla sprawy. Jeżeli przywołana argumentacja nie dotyczy przedmiotu postępowania, nie staje się istotna tylko dlatego, że została sformułowana w sposób profesjonalny.
Jednocześnie błędny fragment nie zawsze oznacza, że całe pismo należy uznać za bezwartościowe. Dokument może zawierać nieprawidłową interpretację prawa, a mimo to przedstawiać istotne fakty albo prawidłowe żądanie. Urząd nadal ma obowiązek rozpoznać rzeczywistą treść sprawy, a nie jedynie ocenić jakość stylu prawnego.
To ważna różnica. AI może stworzyć rozbudowaną warstwę argumentacyjną, która zaciemnia sedno. Zadaniem organu pozostaje oddzielenie twierdzeń istotnych od elementów pozornie profesjonalnych, lecz prawnie bezwartościowych.
Im bardziej profesjonalny uczestnik, tym wyższy standard staranności
Inaczej można oceniać sytuację obywatela, który korzysta z AI, ponieważ nie potrafi samodzielnie napisać pisma, a inaczej działanie profesjonalnego pełnomocnika, przedsiębiorcy albo wykonawcy w postępowaniu o udzielenie zamówienia publicznego.
Od podmiotu profesjonalnego oczekuje się większej staranności. Jeżeli składa rozbudowane wyjaśnienia prawne, powinien sprawdzić przepisy, orzeczenia, daty i znaczenie przywoływanych źródeł. Użycie narzędzia generatywnego może przyspieszyć pracę, ale nie obniża wymaganego standardu.
Szczególnie wyraźnie widać to w sprawach dotyczących zamówień publicznych. Wykonawca, który składa wyjaśnienia, odpowiada za ich kompletność i wiarygodność. Jeżeli materiał zawiera nieistniejące interpretacje albo podstawy prawne niezwiązane z przedmiotem postępowania, zamawiający nie musi ustalać, czy przyczyną był błąd pracownika, doradcy czy modelu językowego. Ocenia dokument jako stanowisko wykonawcy.
Opisane w publikacji postępowania przed Krajową Izbą Odwoławczą pokazują, że klasyczne zasady odpowiedzialności nadal są wystarczające do oceny takich sytuacji. KIO koncentrowała się na poprawności i znaczeniu prawnym informacji, a nie na technologicznym źródle ich powstania. Jeżeli wyjaśnienia były normatywnie fałszywe, językowa spójność nie chroniła ich autora przed skutkami procesowymi.
To istotna wskazówka także dla administracji. Nie trzeba tworzyć odrębnej kategorii „pisma wygenerowanego przez AI”, aby móc reagować na błędy. Nadal działają wymagania rzetelności, należytej staranności i odpowiedzialności za treść dokumentu.
Odpowiedzialne użycie AI wymaga weryfikacji przed wysłaniem
Największym błędem jest traktowanie tekstu wygenerowanego przez AI jako gotowego dokumentu. Model może przygotować szkic, ale każdy element wpływający na sytuację prawną powinien zostać sprawdzony w źródłach.
Weryfikacja nie może ograniczać się do przeczytania tekstu. Należy sprawdzić aktualność przepisów, istnienie przywołanych orzeczeń, poprawność sygnatur, zgodność argumentacji ze stanem faktycznym i to, czy autor rozumie znaczenie każdego fragmentu. Jeżeli dokument zawiera dane osobowe lub informacje objęte ochroną, trzeba również ocenić, czy mogły zostać bezpiecznie przekazane do użytego narzędzia.
W organizacjach korzystających z generatywnej AI potrzebne są jasne zasady. Powinny określać, w jakich sprawach wolno używać modeli językowych, jakie dane można do nich wprowadzać, kto weryfikuje wynik i kto zatwierdza dokument przed wysłaniem. Szczególnie ostrożnie należy traktować pisma prawne, decyzje, odpowiedzi na skargi i materiały składane w postępowaniach, w których błąd może wywołać skutki procesowe.
Podobne zasady powinny obowiązywać po stronie urzędu. Projekt odpowiedzi przygotowany przez AI nie jest jeszcze stanowiskiem organu. Urzędnik musi sprawdzić fakty, przepisy i wnioski, a następnie świadomie przyjąć odpowiedzialność za treść. Nie można dopuścić do sytuacji, w której obywatel otrzymuje oficjalne pismo zawierające fałszywe podstawy prawne tylko dlatego, że wygenerowany tekst brzmiał przekonująco.
Generatywna AI może przyspieszyć pracę, ale nie tworzy nowej formy odpowiedzialności. Nadal odpowiada człowiek, który decyduje się użyć jej wyniku. Technologia może wspierać przygotowanie dokumentu, lecz nie zwalnia autora z obowiązku rozumienia, sprawdzenia i obrony własnego stanowiska.
W administracji i postępowaniach publicznych najważniejsza pozostaje treść. Jeżeli pismo zawiera fałszywe argumenty, nieistniejące przepisy lub nieweryfikowalne orzeczenia, profesjonalny styl nie zmienia jego wartości. AI może stworzyć pozór pewności, ale nie może przejąć odpowiedzialności za prawdę.
Artykuł opracowany na podstawie wspólnej publikacji Natalii Madej i Bartłomieja Wilka poświęconej etycznym i prawnym granicom stosowania sztucznej inteligencji w administracji publicznej.