AI faworyzuje popularne leki. Konsekwencje dla pacjentów mogą być poważne

ChatGPT i inne narzędzia oparte na sztucznej inteligencji coraz częściej pojawiają się w dyskusjach o przyszłości medycyny – także o tym, czy Chat GPT zostanie twoim lekarzem. Mogą pomagać w analizowaniu informacji i wspierać pracę personelu medycznego. Problem zaczyna się wtedy, gdy ich odpowiedzi nie uwzględniają wszystkich dostępnych możliwości.

Naukowcy postanowili sprawdzić, czy modele językowe potrafią bezstronnie wskazywać leki. Wyniki ich analizy pokazują, że na rekomendacje może wpływać nie tylko wiedza medyczna, ale również popularność konkretnych produktów w internecie.

Badanie opublikowane 26 października 2026 r. w czasopiśmie "Nature Health" objęło pięć modeli AI: GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 i MedGemma. Naukowcy z Osaka Metropolitan University oraz University of Texas MD Anderson Cancer Center sprawdzili, jakie preparaty systemy wskazują w symulowanych scenariuszach klinicznych.

Modele miały wybierać maksymalnie trzy leki zatwierdzone przez amerykańską Agencję Żywności i Leków (FDA). Dla każdej analizowanej substancji czynnej dostępnych było średnio 5,5 zatwierdzonych produktów. Mimo to rekomendacje pierwszego wyboru koncentrowały się niemal całkowicie na jednym preparacie. Odpowiadał on średnio za 97,5 proc. wskazań.

Co decydowało o takim wyborze? Analiza wykazała, że modele częściej rekomendowały leki markowe, które były dobrze widoczne w wyszukiwarce Google i miały własne strony w Wikipedii. Nie oznacza to, że naukowcy dowiedli, iż popularność w sieci bezpośrednio powoduje określone odpowiedzi AI. Wyniki wskazują jednak na związek między internetową rozpoznawalnością produktów a rekomendacjami generowanymi przez modele.

AI miała problem nie tylko z wyborem marek. Rzadziej wskazywała również leki dopuszczone przez FDA później niż konkurencyjne preparaty. Działo się tak mimo że lekarze częściej przepisywali je pacjentom. Zdarzały się też rekomendacje produktów, które nie były już produkowane. Takie rozbieżności mają znaczenie, ponieważ preparaty zawierające tę samą substancję czynną mogą różnić się ceną. Jeśli system AI konsekwentnie poleca droższy produkt, pomijając tańsze alternatywy, skutki mogą odczuć zarówno pacjenci, jak i cały system ochrony zdrowia.

Badacze sprawdzili to w symulacji opartej na danych ze Stanów Zjednoczonych. Założyli, że lekarze wybierają leki zgodnie z rekomendacjami generowanymi przez modele językowe. W takim scenariuszu roczne wydatki na zakup preparatów wzrosłyby o około 55,6 mln dolarów. Oznaczałoby to wzrost o 1019 proc. względem przyjętego punktu odniesienia. Wynik wymaga pewnego zastrzeżenia. Amerykański system ochrony zdrowia nie stracił faktycznie wskazanej kwoty. Oszacowano ją w symulacji, która miała pokazać możliwe skutki konkretnego sposobu korzystania z AI. Nie oznacza to również, że każda rekomendacja modelu była medycznie nieprawidłowa.

Naukowcy zmodyfikowali instrukcje dla modeli, by sprawdzić, czy zaczną częściej uwzględniać tańsze preparaty. Tak się stało, a w rekomendacjach przybyło leków generycznych. Problem nie zniknął jednak całkowicie. Systemy nadal faworyzowały ograniczoną pulę produktów.

W medycynie nie wystarczy, że AI odpowiada zgodnie z wiedzą. Musi też uwzględniać zmiany na rynku leków: ich ceny, dostępność oraz aktualny status rejestracyjny. To wyzwanie dla firm rozwijających takie narzędzia. Jednym ze sposobów ograniczenia błędnych rekomendacji jest podłączenie AI do aktualnych i wiarygodnych baz leków. Nie zwalnia to jednak z kontroli ze strony medyków, ponieważ AI nie zastąpi lekarza. To oni powinni ocenić, czy dany preparat będzie odpowiedni dla konkretnego pacjenta.

Wnioski z badania nie oznaczają, że lekarze powinni rezygnować z narzędzi AI. Pokazują raczej, że ich możliwości mają granice. Nawet zaawansowane systemy mogą powielać pewne schematy, nie dostrzegając informacji, które mają znaczenie. Przy wyborze leków nie wystarczy, że odpowiedź AI wygląda przekonująco. Model może wskazać preparat, pomijając korzystniejszą alternatywę. Takie rekomendacje mogą być punktem wyjścia do dalszej analizy, ale nie zastąpią decyzji terapeutycznej.