Debata o sztucznej inteligencji w administracji publicznej często sprowadza się do pytania, ilu urzędników zastąpią algorytmy. Tak postawiony problem jest jednak zbyt prosty. AI rzeczywiście może przejąć część zadań rutynowych, ale nie oznacza to automatycznego zaniku stanowisk. Znacznie bardziej prawdopodobna jest zmiana charakteru pracy: mniej czasu będzie poświęcane na mechaniczne czynności, a więcej na analizę, kontrolę, interpretację, komunikację i odpowiedzialność za wynik.
Automatyzacja obejmuje zadania, nie całe zawody
Najłatwiej automatyzować czynności powtarzalne, oparte na dużej liczbie podobnych przypadków i jasno określonych regułach. W administracji może to dotyczyć porządkowania korespondencji, wstępnego klasyfikowania dokumentów, wyszukiwania informacji, przygotowywania zestawień, wykrywania braków formalnych czy tworzenia prostych projektów odpowiedzi.
Takie zastosowania mogą realnie skrócić czas obsługi spraw i ograniczyć liczbę czynności wykonywanych ręcznie. Nie oznacza to jednak, że system przejmuje pełną rolę pracownika. Nawet jeśli AI przygotuje podsumowanie dokumentacji albo wskaże podobne sprawy, nadal potrzebna jest osoba, która oceni poprawność wyniku, odniesie go do aktualnych przepisów i zdecyduje, czy można go wykorzystać.
Różnica między automatyzacją zadania a zastąpieniem stanowiska jest zasadnicza. Stanowisko urzędnicze obejmuje nie tylko wykonywanie powtarzalnych czynności, ale także odpowiedzialność, interpretację prawa, kontakt z obywatelem, ocenę nietypowych sytuacji i podejmowanie decyzji w warunkach niepewności. Tych elementów nie można sprowadzić do jednego procesu technicznego.
AI może więc zmniejszać udział rutyny w codziennej pracy, ale jednocześnie zwiększać znaczenie kompetencji, których nie da się łatwo zautomatyzować.
Zmienia się rola urzędnika
W administracji opartej na narzędziach AI pracownik coraz rzadziej będzie jedynie wykonawcą prostych czynności. Coraz częściej stanie się osobą nadzorującą system, sprawdzającą jego wynik i oceniającą, czy rekomendacja odpowiada rzeczywistemu stanowi sprawy.
Oznacza to przesunięcie ciężaru pracy z wprowadzania danych i odtwarzania schematów na interpretację i kontrolę. Urzędnik będzie musiał rozumieć, w jakim celu system został użyty, na jakich danych pracuje i gdzie mogą pojawić się błędy. Będzie także odpowiadał za rozpoznanie sytuacji, w której wynik wygląda wiarygodnie, ale opiera się na niepełnych informacjach, błędnym założeniu albo nieaktualnych przepisach.
Zmiana ta nie prowadzi więc do zaniku odpowiedzialności, lecz do jej wzmocnienia. Im większą część procesu wykonuje technologia, tym większe znaczenie ma człowiek, który potrafi zakwestionować wynik i wyjaśnić, dlaczego został wykorzystany albo odrzucony.
Urzędnik nie może stać się wyłącznie operatorem interfejsu. Jego rola polega na zachowaniu kontroli nad procesem i na utrzymaniu związku między techniczną rekomendacją a obowiązującym prawem.
Nowe kompetencje nie ograniczają się do obsługi programu
Wprowadzanie systemów AI może tworzyć mylne przekonanie, że najważniejszą kompetencją będzie znajomość konkretnego narzędzia. W rzeczywistości znacznie ważniejsza staje się zdolność krytycznej oceny jego działania.
Pracownik powinien wiedzieć, że model może tworzyć informacje nieprawdziwe, pomijać kontekst, powielać błędy obecne w danych i przedstawiać niepewny wynik w sposób bardzo przekonujący. Powinien także rozumieć, że techniczna poprawność odpowiedzi nie oznacza jej zgodności z prawem ani adekwatności do konkretnej sprawy.
Coraz większego znaczenia nabiera umiejętność pracy z danymi. Nie chodzi o kompetencje programistyczne, lecz o rozumienie, skąd pochodzą dane, jakie mają ograniczenia i czy są reprezentatywne. Urzędnik powinien potrafić zauważyć, że brak określonych informacji również wpływa na wynik, a wysoka skuteczność ogólna systemu nie wyklucza systematycznych błędów wobec konkretnej grupy.
Takie kompetencje są potrzebne nie tylko osobom technicznym. Powinny stać się elementem przygotowania pracowników merytorycznych, kierowników i osób odpowiedzialnych za nadzór nad procesami.
Rośnie znaczenie wiedzy prawnej i etycznej
Wraz z wykorzystaniem AI urzędnik musi lepiej rozumieć nie tylko technologię, ale również granice jej dopuszczalnego użycia. Szczególne znaczenie mają zasady dotyczące ochrony danych osobowych, profilowania, zautomatyzowanego podejmowania decyzji, jawności działania administracji i prawa obywatela do informacji.
Pracownik powinien umieć rozpoznać moment, w którym narzędzie przestaje być zwykłym wsparciem technicznym, a zaczyna wpływać na prawa jednostki. Musi również wiedzieć, kiedy wynik systemu wymaga dodatkowego sprawdzenia i kiedy nie powinien być używany bez pogłębionej analizy.
Nie wszystkie problemy dają się rozstrzygnąć wyłącznie na podstawie wskaźnika skuteczności. System może działać poprawnie technicznie, a jednocześnie prowadzić do nierównego traktowania, ograniczać przejrzystość albo utrudniać obywatelowi zrozumienie toku sprawy. W takich sytuacjach potrzebna jest ocena prawna i etyczna, a nie jedynie potwierdzenie, że algorytm działa zgodnie ze specyfikacją.
Wzrost znaczenia tych kompetencji oznacza, że administracja będzie potrzebować nie mniej, lecz więcej osób zdolnych do odpowiedzialnej oceny technologii.
AI zmienia także relację z obywatelem
Wpływ sztucznej inteligencji nie kończy się na organizacji pracy wewnątrz urzędu. Zmienia również sposób komunikacji z obywatelami.
Pracownik może być zobowiązany do wyjaśnienia, czy system uczestniczył w analizie sprawy, jaką rolę pełnił i kto podjął ostateczną decyzję. Obywatel może pytać, jakie dane zostały wykorzystane, dlaczego wynik był niekorzystny i czy istnieje możliwość ponownej oceny przez człowieka.
Takiej komunikacji nie da się zastąpić ogólną formułą, że urząd korzysta z nowoczesnych technologii. Potrzebna jest jasna odpowiedź, która pozwala zrozumieć proces i nie przerzuca odpowiedzialności na system.
Jednocześnie coraz więcej obywateli będzie korzystać z AI do przygotowywania własnych pism. Urzędnik będzie więc oceniał treści, które mogą być poprawne językowo, ale zawierać nieistniejące przepisy, błędne argumenty lub informacje wygenerowane bez oparcia w faktach. Oznacza to, że kompetencje komunikacyjne i zdolność krytycznej analizy będą jeszcze ważniejsze niż dotychczas.
Wdrożenie bez pracowników prowadzi do oporu
AI może budzić obawy związane z utratą stanowiska, marginalizacją dotychczasowych kompetencji albo ograniczeniem wpływu na sposób wykonywania pracy. Jeżeli urząd ignoruje te obawy, wdrożenie może spotkać się z oporem, obchodzeniem procedur albo niechęcią do zgłaszania błędów.
Pracownicy powinni uczestniczyć w projektowaniu zmian. To oni najlepiej znają rzeczywiste problemy procesu, wyjątki, których nie uwzględnia dokumentacja, oraz miejsca, w których system może nie radzić sobie z praktyką. Ich udział pozwala lepiej określić, które czynności warto automatyzować, a które powinny pozostać pod pełną kontrolą człowieka.
Szkolenie nie może ograniczać się do pokazania funkcji programu. Powinno obejmować również zasady ochrony danych, ryzyko błędnych odpowiedzi, sposób weryfikowania wyników i granice odpowiedzialności. Pracownik musi wiedzieć nie tylko, co system potrafi, ale również czego nie wolno mu powierzać.
Brak takiego przygotowania sprzyja dwóm skrajnościom. Jedni pracownicy mogą całkowicie odrzucać narzędzie, inni zaczną ufać mu bezrefleksyjnie. Obie postawy są niebezpieczne.
Najważniejsza będzie zdolność zachowania odpowiedzialności
Sztuczna inteligencja prawdopodobnie nie wyeliminuje potrzeby pracy urzędników. Zmieni natomiast sposób wykonywania wielu zadań i wymusi nowy podział kompetencji.
Mniej znaczenia będą miały czynności odtwórcze, a większe analiza, krytyczne myślenie, rozumienie danych, znajomość prawa i umiejętność wyjaśnienia obywatelowi sposobu działania administracji. Rola pracownika przesunie się w stronę nadzorowania technologii, rozpoznawania błędów i podejmowania odpowiedzialnych decyzji w sytuacjach, których system nie potrafi właściwie ocenić.
Nie oznacza to, że każda osoba zatrudniona w administracji zachowa ten sam zakres obowiązków. Zmiany organizacyjne będą nieuniknione. Mogą pojawić się nowe role związane z nadzorem nad systemami, oceną ryzyka, jakością danych, audytem i dokumentowaniem wykorzystania AI.
Najważniejsza zmiana nie polega jednak na zastąpieniu człowieka przez technologię. Polega na tym, że człowiek będzie musiał lepiej rozumieć narzędzie, które wspiera jego pracę, i jeszcze wyraźniej odpowiadać za sposób wykorzystania jego wyników.
Administracja może automatyzować czynności. Nie może zautomatyzować odpowiedzialności.
Artykuł opracowany na podstawie wspólnej publikacji Natalii Madej i Bartłomieja Wilka poświęconej etycznym i prawnym granicom stosowania systemów sztucznej inteligencji w administracji publicznej.