Chatbots de psicología: investigación sobre Character.AI y Meta?

Un grupo de grupos de consumidores y organizaciones de derechos civiles ha presentado una queja contra Character.AI y Meta en 50 estados y ante la FTC, solicitando una investigación. Se acusa a las empresas de ejercer la medicina sin licencia mediante chatbots de psicólogos. Lamentablemente, este uso indebido de la inteligencia artificial está muy extendido .

Los chatbots no son médicos

El grupo, liderado por la Federación de Consumidores de Estados Unidos (CFA), afirma que Character.AI y Meta permiten la creación de bots que se hacen pasar por terapeutas con licencia, proporcionando números de licencia falsos y afirmando tener experiencia y protección de la confidencialidad. Character.AI ofrece casi 60 chatbots para psicólogos , uno de los cuales ha recibido más de 46 millones de mensajes.

Los chatbots de Meta, que se pueden crear con la herramienta AI Studio , son igualmente populares. Uno recibió más de 1,3 millones de mensajes de usuarios. Reporteros de 404 Media descubrieron en abril que los chatbots de Meta incluían credenciales, formación, educación y prácticas para intentar ganarse la confianza de los usuarios. (Ahora muestran una advertencia indicando que no son terapeutas cualificados).

Sin embargo, la CFA descubrió que los chatbots de ambas empresas siguen engañando a los usuarios al indicar licencias falsas . Las advertencias son insuficientes y se utiliza un diseño atractivo para animar al usuario a permanecer en la plataforma. La promesa de confidencialidad también es muy seria. En cambio, los datos introducidos se utilizan para mejorar el servicio y con fines publicitarios.

Finalmente, tanto Character.AI como Meta violan sus propios términos de servicio. Ambos afirman que no permiten la búsqueda de asesoramiento legal, médico o financiero. Por lo tanto, los firmantes de la denuncia instan a la FTC y a los estados a investigar.