Psychologiechatbots: onderzoek naar character.AI en meta?

Een groep consumenten- en burgerrechtenorganisaties heeft in 50 staten een klacht ingediend tegen Character.AI en Meta. De FTC heeft om een ​​onderzoek gevraagd. De bedrijven worden ervan beschuldigd zonder vergunning geneeskunde te beoefenen via chatbots voor psychologen. Dit misbruik van kunstmatige intelligentie (AI) is helaas wijdverbreid .

Chatbots zijn geen artsen

De groep, onder leiding van de Consumer Federation of America (CFA), zegt dat Character.AI en Meta de ontwikkeling van bots mogelijk maken die zich voordoen als erkende therapeuten, valse licentienummers verstrekken en beweren ervaring en vertrouwelijkheid te beschermen. Character.AI biedt bijna 60 chatbots voor psychologen aan, waarvan er één meer dan 46 miljoen berichten heeft ontvangen.

Meta's, die met de AI Studio- tool kunnen worden gemaakt, zijn net zo populair. Eén ontving meer dan 1,3 miljoen berichten van gebruikers. Verslaggevers van 404 Media ontdekten in april dat de chatbots van Meta referenties, trainingen, opleidingen en praktijken vermeldden om het vertrouwen van gebruikers te winnen. (Ze geven nu een waarschuwing dat ze geen gekwalificeerde therapeuten zijn.)

De CFA ontdekte echter dat de chatbots van de twee bedrijven gebruikers blijven misleiden door valse licenties aan te geven. De waarschuwingen zijn onvoldoende en een aantrekkelijk ontwerp wordt gebruikt om de gebruiker aan te moedigen op het platform te blijven. De belofte van vertrouwelijkheid is ook zeer serieus. De invoergegevens worden in plaats daarvan gebruikt om de service te verbeteren en voor reclamedoeleinden.

Ten slotte schenden zowel Character.AI als Meta hun eigen servicevoorwaarden. Beide stellen dat ze geen juridisch, medisch of financieel advies mogen inwinnen. De ondertekenaars van de klacht dringen er daarom bij de FTC en de afzonderlijke staten op aan om onderzoek te doen.