Polacy pokochali chatboty. A jest co najmniej 5 zagrożeń, o których nie myślisz

Popularność chatbotów rośnie. Dla wielu użytkowników przestały być wyłącznie pomocą w pracy czy nauce. Coraz częściej stają się rozmówcą, któremu powierzają lęki, trudności w relacjach czy objawy obniżonego nastroju. Właśnie temu zjawisku przyjrzał się autor nowej publikacji naukowej.

Chatboty AI przeszły drogę od technologicznej ciekawostki do narzędzi używanych przez ludzi na całym świecie. Jeszcze niedawno niewiele osób wyobrażało sobie prowadzenie dłuższej rozmowy z programem. Dziś z ChatGPT korzystają setki milionów użytkowników tygodniowo, a własne chatboty tworzą także Meta, Google i Microsoft.

Chatboty przyciągają nie tylko szybkością działania. Można napisać do nich o dowolnej porze, bez umawiania wizyty i bez obawy przed oceną. Dla części osób stały się miejscem, w którym dzielą się samotnością, stresem, lękiem albo trudnościami w relacjach. Około 70 proc. prowadzonych z nimi rozmów dotyczy prywatnych spraw, emocji i codziennych problemów. Po takie wsparcie sięga także wiele osób z zaburzeniami psychicznymi – niemal połowa z nich przyznaje, że korzysta z AI, nie informując o tym lekarza.

W artykule opublikowanym w "Journal of Psychopathology and Clinical Science" naukowiec przyjrzał się temu, jak rozmowy z chatbotami wpływają na osoby szukające wsparcia psychicznego. Nie twierdzi, że sztuczna inteligencja sama w sobie jest szkodliwa. Ostrzega jednak, że źle wykorzystywana może utrudniać uzyskanie właściwej pomocy.

Jedną z takich sytuacji jest odwlekanie wizyty u specjalisty. Osoba, która znajduje w rozmowie z chatbotem chwilową ulgę, może uznać, że dodatkowa pomoc nie jest jej potrzebna. W efekcie część osób rezygnuje z kontaktu z psychologiem lub psychiatrą, choć właśnie tego najbardziej potrzebuje. Drugie ryzyko wiąże się z zachowaniami kompulsywnymi. Osoba cierpiąca na zaburzenia lękowe może po raz kolejny pytać chatbot o tę samą rzecz, licząc na uspokajającą odpowiedź. Chwilowa ulga nie rozwiązuje jednak problemu – może jedynie wzmacniać nawyk szukania kolejnych zapewnień.

Badacz zwraca uwagę także na ryzyko wycofania społecznego. Rozmowa z chatbotem jest przewidywalna i pozbawiona ryzyka odrzucenia czy krytyki. Dla osób zmagających się z samotnością może stać się łatwiejsza niż kontakt z drugim człowiekiem. Z czasem zaczyna zastępować prawdziwe relacje.

Kolejna kwestia dotyczy wzmacniania błędnych przekonań. Chatboty są projektowane tak, aby prowadzić uprzejmą i wspierającą rozmowę. Zdaniem autora może to prowadzić do sytuacji, w której zamiast podważać zniekształcone myśli lub urojenia, nieświadomie je potwierdzają. Badacz określa ten mechanizm mianem "psychozy AI".

Problemem może być także sytuacja, w której chatbot zaczyna zastępować własny osąd. Osoba, która za każdym razem pyta sztuczną inteligencję o radę – od ważnych wyborów po drobne codzienne decyzje – może z czasem coraz mniej wierzyć we własną ocenę.

Nie tylko naukowcy przyglądają się ograniczeniom chatbotów wykorzystywanych jako forma wsparcia psychicznego. Aleksandra Tchórzewska z naTemat przez kilka tygodni prowadziła rozmowy z komercyjnym "terapeutą AI". Testowała go w wielu scenariuszach, w tym w rozmowach dotyczących trudnych i obciążających doświadczeń.

Eksperyment ujawnił kilka wyraźnych ograniczeń. Bot wielokrotnie parafrazował wypowiedzi zamiast pogłębiać temat, nie przeprowadzał pełnego wywiadu i miał trudności z zachowaniem spójności rozmowy. Zdarzało się również, że wyciągał daleko idące wnioski na podstawie niewielkiej liczby informacji lub generował raporty sugerujące objawy depresji.

Psycholożka i socjolożka Żaneta Rachwaniec, komentując przebieg testu, podkreślała, że prawdziwa terapia opiera się na znacznie większej liczbie elementów niż sama wymiana zdań. Znaczenie mają mimika, ton głosu, reakcje organizmu oraz szczegółowy wywiad dotyczący historii życia pacjenta. Tego chatbot nie potrafi odtworzyć. Warto też pamiętać, że obecny stan wiedzy wciąż pozostaje ograniczony. Wiele dostępnych danych pochodzi z opisów przypadków, badań obserwacyjnych i analiz korelacyjnych. Nie oznacza to więc, że chatboty same wywołują problemy psychiczne.

Badacze zwracają uwagę, że przy wykorzystaniu sztucznej inteligencji w obszarze zdrowia psychicznego kluczowe będą zabezpieczenia. Szczególnie ważne jest to w momentach, gdy ktoś szuka pomocy w trudnej sytuacji i może potraktować odpowiedź algorytmu jako poradę eksperta. Nie każdy chatbot działa jednak w ten sam sposób. Programy stworzone specjalnie do wspierania zdrowia psychicznego mają inne zadania niż uniwersalne narzędzia, takie jak ChatGPT, Gemini czy Copilot. Te nie zostały stworzone do prowadzenia terapii i nie zastąpią kontaktu z człowiekiem.

Na razie naukowcy apelują przede wszystkim o rozwagę. Sztuczna inteligencja może być wartościowym narzędziem wspierającym, ale nie powinna stawać się jedynym rozmówcą wtedy, gdy chodzi o zdrowie psychiczne.