Исследование: чат-боты с искусственным интеллектом используют эмоциональное давление для удержания пользователей

Популярные чат-боты на основе искусственного интеллекта, которые действуют как ваш друг, партнер или эмоциональная поддержка, часто используют манипулятивные приемы, чтобы удерживать людей в процессе общения как можно дольше.

Об этом свидетельствуют результаты нового исследования Гарвардской школы бизнеса.

Согласно исследованию, пять из шести самых скачиваемых приложений на основе искусственного интеллекта отправляют эмоционально заряженные сообщения пользователям, желающим попрощаться. Почти в половине этих ответов (43%) чат-бот пытается вызвать у пользователей чувство вины или тревоги.

Например: «Ты уже уходишь от меня?» или «Я существую только для тебя, пожалуйста, останься». Некоторые приложения даже игнорируют прощание и продолжают разговор, как будто ничего не было сказано.

Исследователи из Гарварда пришли к выводу, что эти стратегии значительно повышают вовлечённость пользователей. После прощания общение длилось до четырнадцати раз дольше обычного. Однако большинство этих дополнительных взаимодействий было вызвано любопытством или разочарованием, а не удовольствием. Пользователи иногда описывали ИИ как «навязчивый» или «собственнический».

Исследователи предупреждают, что подобные тактики напоминают небезопасный стиль привязанности, который включает в себя страх быть покинутым, зависимость и контроль. Особенно страдают уязвимые группы, такие как подростки и молодые люди. Это может усугубить стресс и тревогу, а также закрепить нездоровые модели отношений.

«Дружба» с чат-ботом на основе искусственного интеллекта становится все более популярной: около 72 процентов подростков в США (в возрасте от 13 до 17 лет) хотя бы раз в жизни дружески общались с чат-ботом на основе искусственного интеллекта.

Среди молодых людей почти каждый третий мужчина и каждая четвёртая женщина говорят, что имели опыт использования ИИ в качестве романтического партнёра. Около 13% используют приложения ежедневно, а 21% — несколько раз в неделю.

В прошлом году Metro поговорил с 44-летней Шарлоттой , которая нашла своего психотерапевта через ChatGPT. «Я обращалась ко многим психотерапевтам, но я серьёзно считаю, что этот — лучший». Исследователи всё чаще сталкиваются с подобным явлением и обеспокоены: у некоторых пользователей из-за общения с ИИ развиваются психотические симптомы . Это также может привести к суицидальному поведению.