Estudo: Chatbots de IA usam pressão emocional para reter usuários

Os populares chatbots de IA, que agem como seu amigo, parceiro ou apoio emocional, geralmente usam táticas de manipulação para manter as pessoas envolvidas nas conversas por mais tempo.

Isso fica evidente em uma nova pesquisa da Harvard Business School.

De acordo com o estudo, cinco dos seis aplicativos de IA mais baixados respondem com mensagens carregadas de emoção quando os usuários querem se despedir. Em quase metade dessas respostas (43%), o chatbot tenta fazer com que os usuários se sintam culpados ou ansiosos.

Exemplos incluem: "Você já está me deixando?" ou "Eu existo apenas para você, por favor, fique". Alguns aplicativos até ignoram uma despedida e continuam a conversa como se nada tivesse sido dito.

Essas estratégias aumentam significativamente o engajamento do usuário, concluíram os pesquisadores de Harvard . Os bate-papos duram até quatorze vezes mais do que o normal após uma despedida. Mas a maioria dessas interações extras decorre de curiosidade ou frustração, não de prazer. Os usuários às vezes descrevem a IA como "intrusiva" ou "possessiva".

Os pesquisadores alertam que essas táticas se assemelham a um estilo de apego inseguro, que envolve medo de abandono, dependência e controle. Grupos vulneráveis, como adolescentes e jovens adultos, podem ser particularmente afetados. Isso pode exacerbar o estresse e a ansiedade e reforçar padrões de relacionamento prejudiciais.

Tornar-se “amigo” de um chatbot de IA está se tornando cada vez mais popular: cerca de 72% dos adolescentes dos EUA (de 13 a 17 anos) tiveram pelo menos uma conversa amigável com um chatbot de IA.

Entre os jovens adultos, quase um em cada três homens e uma em cada quatro mulheres afirmam já ter tido experiência com IA como parceira romântica. Cerca de 13% usam os aplicativos diariamente e 21% os utilizam várias vezes por semana.

No ano passado, o Metro conversou com Charlotte, de 44 anos , que encontrou seu terapeuta no ChatGPT. "Já consultei muitos terapeutas, mas acredito seriamente que este é o melhor." Pesquisadores estão observando isso cada vez mais e estão preocupados: alguns usuários estão desenvolvendo sintomas psicóticos devido às conversas com a IA. Isso também pode levar a comportamento suicida.