Meta verklagt KI-gestützte „Nudify“-Apps

Meta gab gestern bekannt, dass es rechtliche Schritte gegen Joy Timeline HK Limited einleiten will, das in Hongkong ansässige Unternehmen hinter Crush AI, einer App, die generative künstliche Intelligenz nutzt, um ohne deren Zustimmung gefälschte Bilder von echten nackten Menschen zu erstellen.

Über die Website Crush AI ist es tatsächlich möglich, das Foto einer bekleideten Person in ein synthetisches Video umzuwandeln, das sie nackt oder beim Ausziehen zeigt, bei expliziten sexuellen Handlungen oder erotischen Posen. Laut Meta ist ein exponentielles Wachstum dieser Nacktheits-Apps zu verzeichnen, die die sozialen Kanäle Facebook und Instagram für ihre Werbung nutzen.

Laut der im November 2024 von der University of Florida und der University of Washington veröffentlichten Studie „Analyzing the AI ​​Nudification Application Ecosystem“ stellen KI-basierte „Nudification“-Apps ein riesiges, aggressives und unreguliertes kommerzielles Ökosystem dar.

Eine Analyse von 20 leicht zugänglichen Online-Plattformen zeigt, dass 95 % davon darauf ausgelegt sind, die Kleidung von Frauenfotos zu entfernen und die abgebildeten Personen so zum Objekt sexueller Inhalte aller Art zu machen. 45 % der Websites ermöglichen die Durchführung simulierter sexueller Handlungen, wie etwa Penetration oder BDSM-Praktiken.

Die Dienste sind kostenpflichtig, die Kosten betragen durchschnittlich 0,31 Dollar pro Bild. Fast alle Plattformen fördern die Nutzung von Kryptowährungen, oft als einzige Zahlungsmethode. Das Löschen eines Kontos ist nahezu unmöglich: Nur jede zwanzigste Plattform erlaubt dies. Die Autoren warnen, dass diese Tools eine neue Form digitaler sexueller Gewalt darstellen, und fordern dringende regulatorische Eingriffe.