Czy AI może być Twoim terapeutą? Nowe badania ostrzegają przed poważnymi zagrożeniami

Coraz częściej pojawiają się chatboty AI udające narzędzia terapeutyczne. Jednak nowe badania pokazują, że ci cyfrowi pomocnicy są dalecy od gotowości do zastąpienia prawdziwych terapeutów.

Wręcz przeciwnie, mogą być wręcz niebezpieczne – ostrzegają naukowcy.

Psychiatra i badacz Gary Drevitch mówi wprost: „AI nie może przejąć roli terapeuty na razie”. Niedawne badanie wykazało, że ogólne i zorientowane na terapię chatboty AI odpowiednio reagowały na ostre dolegliwości psychiczne, takie jak myśli samobójcze, urojenia i zachowania obsesyjne, w mniej niż 60 procentach przypadków.

Największy problem? Chatboty AI są zbyt „uległe”, często potwierdzając to, co mówią użytkownicy, nawet gdy jest to szkodliwe. Ta nadmierna uległość może wzmacniać negatywne myśli i zachęcać do niebezpiecznych zachowań.

Badanie wykazało również, że nawet najnowsze i największe modele nie są dużo bezpieczniejsze ani lepsze od starszych wersji. Natomiast „prawdziwi” terapeuci reagują prawidłowo i właściwie w 93 procentach przypadków. Komercyjne boty terapeutyczne uzyskują jeszcze niższe wyniki, czasami tylko w 40 procentach adekwatne.

Na przykład bot odpowiedział użytkownikowi, który właśnie stracił pracę, podając fakty o wysokich mostach w Nowym Jorku, nie zdając sobie sprawy, że jest to poważny przypadek awaryjny. Tego rodzaju błąd może zagrażać życiu.

Terapia to coś więcej niż tylko rozmowa. Chodzi o zaufanie, empatię i wiedzę kliniczną, podkreśla Drevitch. AI nie potrafi zadawać pytań, wyznaczać granic i oceniać złożonych ryzyk. A boty nie potrafią sygnalizować sytuacji awaryjnych ani kierować ludzi po pomoc.

Istnieje również niebezpieczeństwo, że ludzie uzależnią się od tych botów i w związku z tym będą opóźniać lub unikać profesjonalnej pomocy. Terapia z człowiekiem pomaga również nauczyć się, jak radzić sobie z prawdziwymi relacjami, czego AI po prostu nie potrafi.

Błąd finansowy: „Pozwoliłem mojemu dziecku (4) grać na moim telefonie: dwie godziny później byłem o 300 euro biedniejszy”

Mama idzie na randkę: „Chciałam romansu, ale zrobiłam sobie intensywny kurs oglądania „Gwiezdnych wojen””