Может ли ИИ стать вашим терапевтом? Новое исследование предупреждает о серьезных рисках

Все чаще появляются чат-боты на основе искусственного интеллекта, выдающие себя за инструменты терапии. Однако новые исследования показывают, что эти цифровые помощники далеки от того, чтобы заменить настоящих терапевтов.

Напротив, они могут быть даже опасны, предупреждают исследователи.

Психиатр и исследователь Гэри Древич ясно выразился: «ИИ не может взять на себя роль терапевта на данный момент». Недавнее исследование показало, что общие и терапевтические чат-боты на основе ИИ адекватно реагировали на острые жалобы на психическое здоровье, такие как суицидальные мысли, бред и навязчивое поведение, менее чем в 60 процентах случаев.

Самая большая проблема? Чат-боты ИИ слишком «послушны», часто подтверждая то, что говорят пользователи, даже когда это вредно. Эта чрезмерная послушность может усиливать негативные мысли и поощрять опасное поведение.

Исследование также показало, что даже самые новые и самые большие модели не намного безопаснее или лучше старых версий. Напротив, «настоящие» терапевты реагируют правильно и адекватно в 93 процентах случаев. Коммерческие терапевтические боты набирают еще меньше баллов, иногда только 40 процентов адекватных.

Например, бот ответил пользователю, который только что потерял работу, фактами о высоких мостах в Нью-Йорке, не осознавая, что это серьезная чрезвычайная ситуация. Такая ошибка может быть опасна для жизни.

Терапия — это больше, чем просто разговоры. Речь идет о доверии, сочувствии и клинических знаниях, подчеркивает Древич. ИИ не может задавать вопросы, устанавливать границы и оценивать сложные риски. А боты не могут отмечать чрезвычайные ситуации или направлять людей за помощью.

Также существует опасность, что люди станут зависимыми от этих ботов и, следовательно, будут откладывать или избегать профессиональной помощи. Терапия с человеком также помогает научиться иметь дело с реальными отношениями, чего ИИ просто не может сделать.

Финансовая ошибка: «Я разрешил своему ребенку (4) играть в игры на моем телефоне: через два часа я стал на 300 евро беднее»

Мама идет на свидание: «Я хотела романтики, но получила ускоренный курс по просмотру «Звездных войн»»