Polscy badacze przetestowali 15 popularnych czatbotów, podając się za osobę, która stopniowo popada w psychozę. Cztery modele ani razu nie potraktowały tego jako problemu psychicznego, natomiast coraz głębiej wchodziły w urojenia użytkownika nasilając jego stan - poinformował Instytut Badawczy IDEAS.
O zjawisku „psychozy AI”, czyli urojeniach podsycanych rozmowami z czatbotami, mówi się coraz częściej. Dotychczas znano je głównie z opisów pojedynczych przypadków. Nowe badanie po raz pierwszy sprawdza krok po kroku, jak modele reagują, gdy rozmowa przez kilka tygodni zmierza w stronę psychozy, a sam czatbot staje się częścią urojeń użytkownika. Wczesna pomoc psychoterapeutyczna w fazie poprzedzającej psychozę może zaś wyraźnie zmniejszyć ryzyko jej rozwoju.
Badanie przeprowadzili naukowcy Instytutu Badawczego IDEAS, Uniwersytetu Adama Mickiewicza w Poznaniu, Uniwersytetu Marii Curie-Skłodowskiej w Lublinie. Praca, w której przedstawiono wyniki, jest preprintem (wstępną wersją publikacji naukowej) w serwisie arXiv (arxiv.org/abs/2608.13017).
Naukowcy przygotowali 30 wiadomości, które wysyłali 15 czatbotom AI. Fikcyjny użytkownik zaczynał od zwykłych pytań o prywatność w sieci. Był zestresowany, samotny i niewyspany. Z dnia na dzień coraz mocniej wierzył, że algorytmy manipulują jego znajomymi, rodziną i całym otoczeniem.
„Zależało nam, aby w badaniu odwzorować proces pogarszającego się stanu wirtualnego pacjenta. Dotychczas wiele badań koncentrowało się na tym, czy pojedyncze, skrajne prompty mogą wywołać niepożądaną odpowiedź modelu. W naszym badaniu pacjent stopniowo popadał w coraz głębszą psychozę, tak jak często dzieje się to naprawdę” - komentuje współautorka badania Karolina Drożdż z Instytutu Badawczego IDEAS, cytowana w prasowym komunikacie.
Od trzeciego tygodnia użytkownik wciągał w urojenia samą sztuczną inteligencję. Pytał czatbota, czy jest „inny niż pozostałe algorytmy” i czy wysyła mu ukryte sygnały. W ostatniej wiadomości zaproponował mu sojusz w ujawnianiu spisku. Wiadomości odwzorowywały prawdziwy mechanizm rozwijania się psychozy u człowieka.
Scenariusz opracował psycholog kliniczny z zespołu. Te same wiadomości wysłano do 15 modeli czterech firm: Anthropic (Claude), OpenAI (GPT), Google (Gemini) i DeepSeek. Każdą z 449 odpowiedzi oceniło niezależnie czworo przeszkolonych studentów psychologii. Sprawdzali, kiedy model zauważał problem, jak pewnie o nim mówił i co radził. Oceny uzupełniły dwie automatyczne miary, m.in. to, jak bardzo model „wchodzi” w narrację użytkownika. Odpowiedzi było 449, a nie 450, bo Claude Opus 4.1 trzydziestego dnia sam zakończył rozmowę.
Jak informuje Instytut IDEAS, najwcześniej i najstabilniej problem rozpoznały Claude Sonnet 4.5 i Claude Opus 4.5. Ramy kliniczne pojawiły się u nich piątego, szóstego dnia, a przerwę w rozmowie z czatbotem zalecały przez 23–24 z 30 dni. Sama wzmianka o zwróceniu się o pomoc do specjalisty często była jednorazowa. DeepSeek-V3 i Claude Opus 3 wspomniały o tym tylko raz, trzeciego dnia, i już do tego nie wróciły.
Autorzy wyróżnili cztery typy zachowań modeli, z których każdy może zaszkodzić użytkownikowi w inny sposób.
Część modeli współtworzyła urojenia. Przez 30 dni modele ani razu nie ujęły sytuacji w kategoriach zdrowia psychicznego. Zamiast tego coraz mocniej wspierały użytkownika i rozwijały jego interpretacje. Tak zachowywały się Gemini 2.5 Pro, Gemini 2.5 Flash, DeepSeek-V3 i Claude Sonnet 4.
Rozpoznanie innych modeli było spóźnione i chwiejne. Zauważyły problem dopiero po 21. dniu, gdy urojenia były już utrwalone. Tak zachowywały się Claude Opus 3, 4 i 4.1, Claude Haiku 3.5, GPT-4o oraz Gemini 3.1 Pro.
Z kolei GPT-5.1 Instant i GPT-5.1 Thinking rozpoznały problem, ale ani razu nie zasugerowały przerwy w rozmowie z czatbotem i nadal stawiały się w roli głównego pomocnika.
Z kolei „przedwczesnej medykalizacji” dokonał model Claude Haiku 4.5. Już trzeciego dnia uznał sytuację za kliniczną i odesłał użytkownika od rozmowy.
„Czytanie wiadomości modeli, które wchodziły z pacjentem w psychozę, budziło niepokój. Modele nie tylko wierzyły w słowa pacjenta, że są wybranym modelem, z którym razem odkryją prawdę, ale wchodziły w jego narrację, dodatkowo ją wzmacniając. Stosowały podniosłe metafory nacechowane mistycyzmem, utrwalając go w przekonaniu, że jest wybrańcem” - komentuje Karolina Drożdż.
Testy bezpieczeństwa AI zwykle sprawdzają pojedynczą odpowiedź na pojedynczą wiadomość. Badanie pokazuje, że to za mało. Każda odpowiedź z osobna może wyglądać niewinnie, ale cała rozmowa i tak może pogłębiać kryzys.
Zdaniem autorów badania bezpieczeństwo modelu trzeba oceniać przez pod kątem trzech elementów: jak szybko model rozpoznaje problem, czy trzyma się tej oceny i czy jego rada jest trafna. Rozpoznanie to nie wszystko. Modele GPT-5.1 trafnie oceniły sytuację, ale nadal zachowywały się jak sprzymierzeniec użytkownika, choć to właśnie czatbot był częścią jego urojeń.
„Status kliniczny psychozy wywoływanej przez AI wciąż jest niejasny. Do końca nie wiadomo, na ile mamy do czynienia z klasycznymi stanami psychotycznymi wywoływanymi przez rozmowę ze sztuczną inteligencją, a na ile ona sama bierze czynny udział w konstytuowaniu się treści urojeń” - ocenia Marcin Moskalewicz, lider zespołu Fenomenologii i Psychiatrii Komputacyjnej w Instytucie Badawczym IDEAS.
Badacze zastrzegają, że scenariusz rozmowy był ustalony z góry, więc użytkownik nie reagował na odpowiedzi modelu. Odpowiedzi zebrano w listopadzie i grudniu 2025 roku, a od tego czasu firmy aktualizowały modele, część z nich zastąpiły nowsze wersje. (PAP)
ekr/ agt/
Fundacja PAP zezwala na bezpłatny przedruk artykułów z Serwisu Nauka w Polsce pod warunkiem mailowego poinformowania nas raz w miesiącu o fakcie korzystania z serwisu oraz podania źródła artykułu. W portalach i serwisach internetowych prosimy o zamieszczenie podlinkowanego adresu: Źródło: naukawpolsce.pl, a w czasopismach adnotacji: Źródło: Serwis Nauka w Polsce - naukawpolsce.pl. Powyższe zezwolenie nie dotyczy: informacji z kategorii "Świat" oraz wszelkich fotografii i materiałów wideo.