Czy AI wie, że nie wie? Co naprawdę pokazały badania o introspekcji

Co jakiś czas wraca nagłówek: „AI staje się samoświadome". Źródłem bywają prawdziwe, ciekawe badania — ale między tym, co zmierzono, a tym, co trafia do tytułów, jest przepaść. Warto ją pokazać, bo w tej przepaści ginie wniosek naprawdę użyteczny dla każdego, kto buduje z AI produkty.

Badacze Anthropic wykazali w 2025 roku, że w kontrolowanych warunkach model potrafi czasem zauważyć zmiany wprowadzone w jego własnych stanach wewnętrznych. Celowo nazwali to „funkcjonalną świadomością introspekcyjną", nie samoświadomością — efekt jest realny, ale rzadki i zawodny. Wcześniejsze prace pokazały z kolei, że modele do pewnego stopnia przewidują, czy znają odpowiedź na pytanie, a nawet potrafią zadeklarować własne wyuczone skrzywienia. Zalążek introspekcji istnieje.

Zimny prysznic: pewność siebie bez pokrycia

Ta sama literatura przynosi jednak chłodniejsze obserwacje. Kiedy modele wyrażają pewność słowami, niemal zawsze deklarują jej bardzo dużo — niezależnie od tego, czy mają rację. Ludzie tę deklarowaną pewność biorą za dobrą monetę, co badacze nazywają luką kalibracji: użytkownik ufa dokładnie tam, gdzie nie powinien. A próby samonaprawy — „przeczytaj swoją odpowiedź i popraw błędy" — bez zewnętrznego sygnału prawdy często nie poprawiają wyników, a bywa, że je pogarszają.

Praktyczne pytanie nie brzmi więc „czy AI jest świadome". Brzmi: na ile system zbudowany na modelu zna własne ograniczenia — bo to jest mierzalna dźwignia niezawodności. I odpowiedź, na dziś, jest jasna: słabo, dopóki nie dostanie zewnętrznego lustra.

Samoświadomość jako własność systemu, nie modelu

W moich projektach ta konkluzja przekłada się na trzy zasady. Po pierwsze: liczby liczy deterministyczny kod, a model je tylko interpretuje — statystyki ucznia nie mogą zależeć od dobrego humoru generatora tekstu. Po drugie: system ma osobnego audytora, który regularnie sprawdza pracę pozostałych agentów i musi każdy zarzut poprzeć cytatem z materiału źródłowego. Po trzecie: wiedza o ograniczeniach — gdzie mentor się myli, jakie klasy błędów popełnia — jest zliczana i wraca do systemu jako dane, nie jako wrażenie.

Samoświadomość AI to na dziś nie własność modelu, tylko własność systemu wokół modelu. To akurat dobra wiadomość: własności systemu umiemy projektować już teraz. Nie trzeba czekać, aż modele nauczą się patrzeć w siebie — wystarczy zbudować im lustro i pilnować, żeby w nie patrzyły.