Co trzeci młody pyta AI o używki. Eksperci ostrzegają przed pułapką zaufania

Chatboty stały się dla wielu osób jednym z pierwszych źródeł informacji – szacuje się, że 17 mln Polaków pyta AI o zdrowie. Zamiast szukać odpowiedzi w sprawdzonych źródłach, ludzie pytają sztuczną inteligencję o objawy chorób, leki czy problemy zdrowotne. Nie omijają też tematów związanych z używkami. Naukowcy postanowili sprawdzić, jak często młodzi dorośli korzystają z tej możliwości i co może z tego wynikać.

Ponad 32 proc. osób w wieku 18–29 lat szukało w generatywnej AI informacji o substancjach psychoaktywnych. To jeden z wyników badania Rutgers Health, którym objęto blisko 1000 osób. Publikacja ukazała się w czasopiśmie "Journal of Medical Internet Research Formative Research".

Nie chodziło tylko o poznanie działania poszczególnych substancji. Użytkownicy szukali też informacji o skutkach ich zażywania i związanych z nim zagrożeniach. Odpowiedzi chatbotów mogły zatem wpływać na ich późniejsze wybory.

Nie były to jednorazowe pytania. Około połowa osób szukających takich informacji w AI robiła to co najmniej raz w miesiącu. To kolejny niepokojący sygnał po doniesieniach, że nastolatki uzależniają się od chatbotów AI. Autorzy badania przypominają, że młodzi dorośli już wcześniej chętnie korzystali z chatbotów w sprawach zdrowotnych. We wcześniejszych analizach przywołanych w publikacji odsetek takich osób wynosił 66 proc. Najnowsze wyniki pokazują, że zakres pytań kierowanych do sztucznej inteligencji obejmuje także substancje psychoaktywne.

Odpowiedzi chatbota nie zastąpią porady specjalisty, co pokazał choćby eksperyment, w którym naukowcy 4 chatbotom zadali 212 pytań o zdrowie. AI może się mylić, pomijać istotne okoliczności i podawać niepotwierdzone informacje z dużą pewnością siebie. Dlatego nie warto przyjmować jej odpowiedzi bez weryfikacji. A niewiedza może być szczególnie niebezpieczna. Brak rozeznania w działaniu substancji, ich łączeniu i objawach zatrucia utrudnia ocenę ryzyka. To może opóźnić szukanie pomocy. Przekonała się o tym rodzina 19-latka z USA, który zmarł po konsultacji ze sztuczną inteligencją.

– Korzystanie z takich narzędzi może prowadzić do podejmowania przez młodych ludzi ryzykownych działań wynikających z braku rzetelnej wiedzy – w wywiadzie dla Medical News podkreśliła Mireia Triguero Roura, główna autorka badania, związana z Rutgers Institute for Health, Health Care Policy and Aging Research.

Niepokój badaczy budzi również zaufanie, jakim respondenci obdarzali chatboty. Wielu uważało je za pomocne i wiarygodne źródło informacji. Podobne zjawisko widać w naszym kraju – Polacy pokochali chatboty, choć nie zawsze dostrzegają związane z tym zagrożenia. Tymczasem płynna, przekonująca odpowiedź nie oznacza, że jej treść została sprawdzona przez eksperta. Chatbot nie zna też wszystkich okoliczności dotyczących zdrowia konkretnej osoby. Dlatego jego odpowiedzi nie powinny zastępować konsultacji medycznej ani służyć jako jedyna podstawa do oceny, czy zażycie danej substancji jest bezpieczne.

Wśród osób szukających informacji o substancjach psychoaktywnych za pośrednictwem chatbotów przeważali mężczyźni i osoby czarnoskóre. Badacze nie ustalili, z czego wynikała ta prawidłowość. Powodów może być kilka: od trudności z dostępem do opieki zdrowotnej po nieufność wobec instytucji medycznych. Badacze rozważają również wpływ stygmatyzacji i nawyków związanych z wyszukiwaniem informacji. Na tym etapie nie wiadomo jednak, które z tych czynników rzeczywiście mają znaczenie.

Nie wiadomo jeszcze, jak młodzi dorośli odczytują odpowiedzi chatbotów na pytania o n*rkotyki i alkohol. Kolejne badania powinny sprawdzić, czy potrafią wychwycić błędy i braki w takich odpowiedziach oraz czy korzystanie z AI w sprawach związanych z używkami może odbijać się na ich zdrowiu.

Wyniki nie dowodzą, że osoby pytające sztuczną inteligencję o używki częściej podejmują ryzykowne decyzje. Pokazują jednak, że chatboty stały się jednym ze źródeł wiedzy na ten temat. A skoro użytkownicy często im ufają, jakość odpowiedzi nabiera szczególnego znaczenia. Przekonujący ton nie gwarantuje bowiem, że informacja jest prawdziwa.