Kiedy AI się myli, dostępność staje się kwestią bezpieczeństwa

Sztuczna inteligencja coraz częściej pojawia się w rozwiązaniach, które mają pomagać osobom z niepełnosprawnościami. Potrafi opisywać obrazy, odczytywać dokumenty, rozpoznawać elementy otoczenia, wspierać nawigację i odpowiadać na pytania dotyczące tego, co znajduje się przed użytkownikiem. Z punktu widzenia dostępności to ogromna zmiana, bo część informacji, które kiedyś wymagały pomocy drugiej osoby, można dziś uzyskać samodzielnie i niemal natychmiast.

Problem zaczyna się wtedy, gdy system nie tylko przekazuje informację, ale sam ją interpretuje. Wtedy użytkownik nie otrzymuje już komunikatu pochodzącego bezpośrednio od autora strony, aplikacji czy oznaczenia w przestrzeni. Otrzymuje wynik działania modelu, który może być trafny, ale może też być częściowo błędny albo całkowicie fałszywy.

W wielu zastosowaniach pomyłka sztucznej inteligencji jest po prostu irytująca. Jeśli model błędnie opisze kolor koszuli na zdjęciu albo źle streści mało istotny fragment dokumentu, zwykle nie dzieje się nic poważnego. Inaczej wygląda sytuacja wtedy, gdy ta sama technologia pomaga osobie niewidomej poruszać się w przestrzeni, rozpoznać przeszkodę, przeczytać dawkowanie leku albo zinterpretować komunikat w systemie bankowym. W takich przypadkach dostępność zaczyna łączyć się bezpośrednio z bezpieczeństwem.

Nie wystarczy powiedzieć użytkownikowi, co „widzi” AI

31 sierpnia 2026 roku w Proceedings of the Human Factors and Ergonomics Society Annual Meeting opublikowano pracę zatytułowaną „Communicating AI Uncertainty in Assistive Navigation for People with Visual Impairments”. Autorzy zajęli się problemem, o którym w kontekście dostępności mówi się jeszcze stosunkowo rzadko: jak system AI powinien informować użytkownika, że sam nie jest pewny swojej odpowiedzi.

Badacze zauważają, że rozwijane obecnie systemy mogą wykorzystywać analizę obrazu i modele językowe do opisywania otoczenia osobom niewidomym i słabowidzącym. Jednocześnie takie rozwiązania są podatne na halucynacje i błędy interpretacji. Użytkownik może więc usłyszeć bardzo przekonujący opis sytuacji, mimo że model nie dysponuje wystarczającymi informacjami, aby mieć pewność, że opis jest prawidłowy. Źródło: Communicating AI Uncertainty in Assistive Navigation for People with Visual Impairments.

To istotna różnica w porównaniu z klasycznym komunikatem błędu. Jeśli system napisze „nie rozpoznano obrazu”, użytkownik wie, że nie otrzymał odpowiedzi. Jeżeli natomiast model odpowie płynnie i pewnym tonem, że przed użytkownikiem znajduje się przejście, kosz na śmieci albo schody, bardzo łatwo uznać tę informację za wiarygodną.

Właśnie dlatego autorzy badania nie skupili się wyłącznie na zwiększaniu dokładności modelu. Próbowali zaprojektować sposób przekazywania samej niepewności systemu. W prototypie informacja o poziomie pewności została powiązana ze sposobem wypowiadania komunikatu: tempem mowy, wahaniem, naciskiem i intonacją. Zamiast podawać użytkownikowi techniczny wskaźnik prawdopodobieństwa, system mógł mówić w sposób bardziej stanowczy wtedy, gdy był pewny wyniku, i bardziej ostrożny wtedy, gdy rozpoznanie było niepewne. Autorzy podkreślają jednak, że jest to prototyp wymagający dalszych badań z użytkownikami, a nie gotowy standard projektowy.

„Przed tobą jest kosz” i „przed tobą może być kosz” to nie jest ta sama informacja

Różnica wydaje się niewielka, dopóki nie przeniesiemy jej do rzeczywistej sytuacji. Jeśli użytkownik słyszy komunikat „przed tobą znajduje się kosz”, naturalnie traktuje go jak stwierdzenie faktu. Jeżeli system mówi „przed tobą może znajdować się kosz”, otrzymuje zupełnie inną informację. Nadal może skorzystać z pomocy AI, ale wie jednocześnie, że powinien zachować ostrożność i potwierdzić sytuację inną metodą.

W projektowaniu dostępności od dawna zwracamy uwagę na to, czy informacja jest dostępna dla użytkownika. Rozwój AI dodaje drugi poziom problemu. Trzeba zacząć pytać nie tylko, czy użytkownik otrzymał informację, ale również czy wie, jak bardzo może jej zaufać.

To szczególnie ważne dla osób, które nie mają łatwego sposobu zweryfikowania odpowiedzi modelu. Osoba widząca może spojrzeć na ekran i zauważyć, że AI błędnie rozpoznało przycisk. Osoba niewidoma korzystająca z opisu wygenerowanego właśnie dlatego, że sama nie może zweryfikować obrazu, znajduje się w innej sytuacji. Mechanizm, który miał zmniejszyć barierę, może jednocześnie ograniczyć możliwość wykrycia własnego błędu.

Osoby z niepełnosprawnościami już korzystają z takich rozwiązań

To nie jest wyłącznie problem przyszłych systemów eksperymentalnych. American Foundation for the Blind opublikowała w sierpniu 2026 roku raport „Innovation for Access”, poświęcony wykorzystaniu sztucznej inteligencji jako technologii asystującej. Obejmuje on między innymi generowane przez AI opisy wizualne, automatyczne napisy i komunikację wspomagającą i alternatywną.

Raport wykorzystuje dane z większego badania obejmującego 1735 osób, z czego 1070 stanowiły osoby z niepełnosprawnościami. Autorzy analizowali nie tylko to, czy uczestnicy korzystają z takich technologii, ale również ich ocenę jakości oraz oczekiwania dotyczące dalszego rozwoju. Źródło: American Foundation for the Blind – Innovation for Access.

W całej serii badań AFB powtarza się pewne napięcie. AI może zwiększać niezależność i dostęp do informacji, ale jednocześnie wprowadza własne bariery: błędne odpowiedzi, problemy z dostępnością samych narzędzi, ryzyko dyskryminacji, prywatność i możliwość zbyt dużego uzależnienia użytkownika od systemu, który nie zawsze jest dokładny. AFB opisuje ten problem szerzej w raporcie „The AI Quagmire”, przedstawiając AI jednocześnie jako narzędzie wspierające dostępność i źródło nowych nierówności. Źródło: American Foundation for the Blind – Artificial Intelligence Series.

To ważna perspektywa, bo dyskusja o dostępności AI bardzo łatwo zmienia się w prezentację nowych funkcji. Kolejne narzędzie rozpoznaje obraz, kolejne generuje napisy, kolejne pomaga użytkownikowi znaleźć obiekt. Sam fakt, że technologia coś potrafi, nie mówi jeszcze wystarczająco dużo o tym, czy można bezpiecznie używać jej jako technologii asystującej.

Nie każdy błąd ma takie same konsekwencje

W ocenie systemu AI ważne jest również to, gdzie i do czego jest używany. Pomyłka w automatycznym opisie zdjęcia w mediach społecznościowych ma inną wagę niż pomyłka podczas poruszania się po ulicy. Błędne rozpoznanie nagłówka artykułu jest czymś innym niż błędne odczytanie informacji o dawkowaniu albo kwoty przelewu.

Ta różnica powinna wpływać na sposób projektowania dostępnych systemów AI. Im poważniejsze mogą być skutki błędnej odpowiedzi, tym mniej rozsądne jest ukrywanie niepewności modelu za płynnym i zdecydowanym językiem. W zastosowaniach o wysokim ryzyku użytkownik powinien mieć możliwość rozpoznania, czy system przekazuje informację pochodzącą z wiarygodnego źródła, czy jedynie generuje najbardziej prawdopodobną interpretację.

Warto zauważyć, że podobne ograniczenia zaczynają pojawiać się również w komunikatach producentów technologii. Apple, opisując nowe funkcje dostępności wykorzystujące Apple Intelligence, ostrzega, że niektóre mechanizmy rozpoznawania otoczenia nie powinny być traktowane jako rozwiązania do sytuacji wysokiego ryzyka ani używane w sposób, w którym błąd mógłby prowadzić do obrażeń. Sam producent wyznacza więc granicę pomiędzy funkcją pomocniczą a systemem, któremu można bezwarunkowo zaufać. Źródło: Apple – nowe funkcje dostępności oparte na Apple Intelligence.

W3C również dostrzega problem wiarygodności AI

Temat zaczął pojawiać się również w pracach W3C Research Questions Task Force. W lipcu 2026 roku opublikowano zestawienie problemów związanych z dostępnością sztucznej inteligencji omawianych przez grupę w ciągu roku. Jednym z pierwszych wskazanych zagadnień jest sytuacja, w której wynik generowany przez AI brzmi wiarygodnie, ale użytkownik nie ma możliwości sprawdzenia, czy rzeczywiście jest poprawny.

W materiale zwrócono również uwagę na generowanie alternatywnych opisów obrazów. Ten sam obraz może otrzymywać różne opisy w kolejnych próbach, a użytkownik nie ma prostego sposobu ustalenia, który z nich jest najdokładniejszy. W3C wskazuje również problem nierówności pomiędzy użytkownikami: osoba posiadająca specjalistyczną wiedzę może być w stanie ocenić odpowiedź AI, natomiast osoba korzystająca z narzędzia właśnie dlatego, że sama nie ma dostępu do danej informacji, często takiej możliwości nie posiada. Źródło: W3C Research Questions Task Force – AI-Related Concerns Identified by the RQTF in 2026.

To jest sedno problemu. Dostępność nie może sprowadzać się do sytuacji, w której informacja formalnie została przekazana użytkownikowi. Musi być również wystarczająco wiarygodna, aby można było na jej podstawie podjąć działanie.

AI potrafi być przekonujące również wtedy, gdy się myli

W tradycyjnym interfejsie część błędów jest łatwa do zauważenia. Brak etykiety formularza powoduje, że czytnik ekranu nie przekazuje właściwej informacji. Użytkownik natychmiast wie, że coś jest nie tak. Generatywna AI może zachowywać się odwrotnie: wypełnić brak informacją, która brzmi zupełnie naturalnie.

To właśnie płynność odpowiedzi staje się problemem. Model nie musi sygnalizować niepewności w sposób zbliżony do człowieka. Może formułować odpowiedź tak samo zdecydowanie wtedy, gdy rozpoznanie jest oczywiste, jak wtedy, gdy dane wejściowe są niejednoznaczne. Jeżeli użytkownik przyzwyczai się do tego, że system zwykle odpowiada dobrze, z czasem może coraz rzadziej kwestionować jego komunikaty.

Z punktu widzenia projektowania dostępnych rozwiązań jest to szczególnie niebezpieczne, ponieważ technologia asystująca powinna zwiększać kontrolę użytkownika nad sytuacją, a nie zastępować ją zaufaniem do nieprzejrzystego procesu decyzyjnego.

Komunikowanie niepewności również musi być dostępne

Rozwiązaniem nie jest jednak proste dodanie komunikatu „AI może się mylić” na początku korzystania z usługi. Taki komunikat bardzo szybko przestaje mieć znaczenie. Użytkownik potrzebuje informacji o niepewności dokładnie wtedy, gdy dotyczy ona konkretnej odpowiedzi.

Co więcej, sama informacja o niepewności musi zostać przekazana w dostępny sposób. Nie wystarczy oznaczyć podejrzanej odpowiedzi kolorem albo niewielką ikoną, jeżeli użytkownik korzystający z czytnika ekranu nie otrzyma równoważnego komunikatu. Nie wystarczy również podawać technicznego procentu pewności, którego znaczenie dla przeciętnego użytkownika jest trudne do interpretacji.

Badanie Shaffera i współautorów jest interesujące właśnie dlatego, że traktuje niepewność jako część projektu interakcji. Autorzy próbują przekładać informację techniczną o pewności modelu na sposób komunikacji, który użytkownik może naturalnie zauważyć podczas wykonywania zadania. To jeden z możliwych kierunków, ale prawdopodobnie nie jedyny. W innych kontekstach lepszy może być komunikat tekstowy, możliwość sprawdzenia źródła albo wyraźne rozróżnienie informacji od interpretacji modelu.

Dostępność AI wymaga czegoś więcej niż zgodnego interfejsu

Przez wiele lat pytanie o dostępność systemu cyfrowego zaczynało się od interfejsu: czy można obsłużyć go klawiaturą, czy czytnik ekranu otrzymuje właściwe informacje, czy kontrast jest odpowiedni, czy komunikaty o błędach są poprawnie przekazywane. W przypadku AI te kryteria nadal pozostają istotne, ale nie wystarczają.

System może mieć świetnie zbudowany interfejs, poprawną semantykę i pełną obsługę klawiaturą, a jednocześnie przekazywać osobie z niepełnosprawnością błędne informacje w sposób, którego użytkownik nie potrafi rozpoznać. Formalnie narzędzie może być bardzo dostępne. Funkcjonalnie może jednak powodować nowe ryzyko.

Dlatego ocena systemów wykorzystujących AI będzie wymagała szerszego spojrzenia. Trzeba będzie badać nie tylko możliwość wykonania zadania, ale również sposób prezentowania odpowiedzi modelu, sygnalizowanie jego ograniczeń, możliwość weryfikacji informacji i konsekwencje błędu. Szczególnie w rozwiązaniach skierowanych do osób, które wykorzystują AI jako technologię kompensującą brak dostępu do określonych informacji.

Nie chodzi o to, żeby przestać korzystać z AI

Wniosek nie powinien brzmieć: sztuczna inteligencja jest zbyt zawodna, aby stosować ją w technologiach asystujących. Byłoby to równie nierozsądne jak bezkrytyczne przyjmowanie każdej nowej funkcji. Możliwości, które dają modele multimodalne, są zbyt wartościowe, aby z nich rezygnować. Dla wielu użytkowników już teraz oznaczają większą niezależność.

Trzeba natomiast przestać projektować takie systemy tak, jakby każda wygenerowana odpowiedź była zwykłym komunikatem aplikacji. Nie jest. Jest wynikiem probabilistycznego procesu, który może działać bardzo dobrze, ale nie daje gwarancji poprawności.

Dostępny system AI powinien więc nie tylko potrafić przekazać użytkownikowi odpowiedź. Powinien również pomagać mu zrozumieć, skąd ta odpowiedź pochodzi, kiedy warto jej zaufać, a kiedy zachować ostrożność. W zastosowaniach, w których pomyłka może wpływać na zdrowie, bezpieczeństwo, pieniądze albo możliwość samodzielnego poruszania się, nie jest to już drobny problem użyteczności.

To staje się częścią dostępności.

I właśnie w tym miejscu debata o AI i dostępności zaczyna wykraczać daleko poza WCAG, poprawne etykiety czy obsługę czytnika ekranu. Coraz częściej będziemy musieli pytać nie tylko, czy technologia jest dostępna dla użytkownika, ale również czy użytkownik może bezpiecznie polegać na tym, co technologia mu mówi.