Meta Files poursuit le créateur de la technologie d'application « Nudify »

Meta a annoncé jeudi qu'elle poursuivait en justice un créateur d'applications qui utilise l'intelligence artificielle pour simuler des images nues de vraies personnes qui apparaissent habillées sur des photos.

Meta a déclaré avoir déposé une plainte à Hong Kong contre Joy Timeline HK Limited, l'entité derrière l'application CrushAI, pour l'empêcher de faire de la publicité pour les applications CrushAI sur les plateformes Meta.

« Cette action en justice souligne à la fois le sérieux avec lequel nous prenons ces abus et notre engagement à tout mettre en œuvre pour protéger notre communauté », a déclaré Meta dans un communiqué. « Nous continuerons à prendre les mesures nécessaires, y compris des poursuites judiciaires, contre ceux qui abusent ainsi de nos plateformes. »

L'action en justice intervient après que Joy Timeline a fait « plusieurs tentatives » pour contourner le processus de révision des publicités de Meta, allègue Meta.

Des publicités pour des applications dites « nudify » sont apparues sur les plateformes Facebook et Instagram de Meta, malgré le non-respect des politiques publicitaires de ces réseaux sociaux. CrushAI, qui développe ces applications, a fait la promotion d'outils d'IA qui, selon lui, permettent aux utilisateurs de télécharger des photos et de « voir n'importe qui nu », selon une enquête de CBS News .

Meta a déclaré interdire les « images intimes non consensuelles » sur ses plateformes. L'entreprise avait précédemment indiqué à CBS News avoir supprimé les publicités pour la technologie nudify, supprimé les pages de ses plateformes diffusant ces publicités et bloqué définitivement les sites web associés à ces applications.

Meta a annoncé jeudi qu'elle partagerait des informations, notamment les URL des publicités, sur les entités qui enfreignent ses politiques avec d'autres entreprises technologiques via le programme Lantern de la Tech Coalition, qui suit les comportements contraires à ses règles de sécurité des enfants. Depuis mars, Meta a fourni au programme des informations sur plus de 3 800 sites, qu'elle partage avec d'autres entreprises technologiques, selon l'entreprise.

Meta a indiqué que les annonceurs des applications Nudify utilisent divers moyens pour éviter d'être détectés sur ses plateformes, notamment en utilisant des images inoffensives pour tenter de contourner la technologie utilisée pour identifier ces publicités sur ses sites. Meta a ainsi développé une technologie plus performante pour détecter les publicités des applications Nudify présentées comme inoffensives, a indiqué Meta jeudi.

« Nous avons travaillé avec des experts externes et nos propres équipes de spécialistes pour élargir la liste des termes, expressions et émojis liés à la sécurité que nos systèmes sont formés à détecter avec ces publicités », a déclaré Meta.

Emmet Lyons a contribué à ce rapport.