Un influencer con intelligenza artificiale Deepfake mi ha rubato le foto del mio matrimonio

Come content creator a tempo pieno, Kelly Stranick ( @kellygracemae ) sa che uno dei rischi del condividere la propria vita online è che, occasionalmente, altre persone cerchino di rubare le proprie foto. Quello che non sapeva è che, a volte, queste persone non sono affatto persone reali. Qui di seguito, l'influencer di Brooklyn racconta, con le sue parole, cosa è successo quando ha scoperto che un account Instagram deepfake generato dall'intelligenza artificiale stava cercando di spacciare il suo matrimonio per il proprio.

A marzo 2019 mi sono trasferita a San Francisco per un lavoro nel settore tecnologico e ho vissuto con tre ragazzi che mi hanno detto che dovevo iscrivermi a Hinge. "È così che si conoscono le persone", mi hanno detto. "È così che funziona il mondo adesso". Ho detto loro che andava bene, l'avrei fatto, ho fatto match con questo ragazzo, Andy, e siamo uscite insieme. Avevo appena compiuto 24 anni e non avevo intenzione di incontrare mio marito, ma una cosa tira l'altra, ed è così che è andata a finire. Maggio 2019: il mio primo e unico appuntamento su Hinge.

Nel 2022, pensavo che ci saremmo fidanzati, ma immaginavo che sarebbe stato in estate. Quando Andy mi ha chiesto di sposarlo il 4 marzo 2022, mi ha colta completamente di sorpresa; indossavo leggings e non avevo trucco, anche se per fortuna mi ero fatta i capelli lisci. Non sono una di quelle ragazze che crescono pensando al proprio matrimonio. Non pensavo nemmeno che mi sarei sposata. Vengo da una famiglia divorziata e ho avuto molti traumi con le relazioni passate, quindi non ho pensato molto al matrimonio un giorno. Così, quando ci siamo fidanzati, abbiamo ingaggiato una wedding planner a servizio completo, Veronica Joy Events , che è anche un'amica di famiglia. Le ho dato una bacheca Pinterest di idee e le ho detto: "Voglio fiori colorati e sfere da discoteca. Voglio che sembri una festa", e ho lasciato che facesse da sé.

Avevo iniziato a fare TikTok nella primavera del 2022, pochi mesi dopo il nostro fidanzamento. Era solo per divertimento – non avevo un vero pubblico fino all'inizio del 2023 – e mi stavo abituando a essere più personale online, anche parlando di quello che stava succedendo nella mia vita, che all'epoca riguardava l'organizzazione del matrimonio. Raccontavo il processo del matrimonio e le decisioni che avevamo preso e che ci sembravano autentiche, come non avere un primo ballo o una festa nuziale. Ma non direi che i miei contenuti fossero specifici per il matrimonio o qualcosa del genere.

Quando arrivò il giorno del nostro matrimonio, ero una di quelle persone che pensava: "Non ho aspettative che questo sia il giorno più bello della mia vita" . La mia priorità era essere calma, presente, godermi la giornata e non farmi travolgere dallo stress. Quella mattina avevo tempo per me stessa; non avevo un gruppo numeroso di persone che si preparavano con me. Volevo che fosse molto rilassato. Ma proprio perché non avevo queste aspettative, alla fine è stato il giorno più bello della mia vita. Ho potuto godermi tutto dall'inizio alla fine, perché avevo stabilito queste intenzioni. Stavo fluttuando. Se fossi riuscita a essere la migliore di me stessa, come lo ero stata quel giorno, ogni giorno, sarei stata inarrestabile.

Ero davvero entusiasta di poter raccontare il matrimonio a posteriori, per dare un punto di vista e dare consigli, ma sono rimasta scioccata da quanto la gente volesse saperlo. Ho parlato dei nostri fornitori e ho parlato a lungo dell'atteggiamento che avevo nei confronti del nostro matrimonio, anche se la cosa che ha attirato più attenzione è stato il fatto che siamo scappati dal matrimonio e siamo andati al Brooklyn Mirage per il nostro after-party.

Poi, di recente, ho ricevuto un messaggio su Instagram da una delle mie follower. Mi ha detto: "Ehi, stavo scorrendo e ho visto questo video. Questa è la foto del tuo matrimonio". Nel video c'era una foto del mio matrimonio, di mio marito Andy, di tutto , ma non c'era il mio volto. Quest'altra influencer aveva sostituito il mio volto con il suo e parlava di piccole cose che aveva fatto al suo matrimonio. Niente di tutto ciò aveva nemmeno lontanamente a che fare con me, a parte il fatto che aveva usato la mia foto come intro del suo video. La mia reazione immediata è stata: "Che diavolo? Chi è questa persona che scatta la foto del mio matrimonio, ci mette la sua faccia e ne fa un contenuto?".

Non mi è nemmeno venuto in mente che potesse trattarsi di IA. Ovviamente, le persone usano l'IA per Photoshop, ma non mi ero reso conto che la persona nel video fosse un'IA, finché non ho pubblicato il racconto della tragedia. Poi ho iniziato a ricevere un sacco di messaggi di persone che dicevano: "Questo è un deepfake. Questa non è nemmeno una persona reale".

Uno screenshot del video in questione.

Non ho mai condiviso questa parte online, ma mi è successa una cosa simile poco meno di sei mesi dopo il nostro matrimonio. Uno dei miei follower mi ha avvisato che una ragazza su RedNote aveva scattato esattamente la stessa foto e aveva ritoccato il suo volto sul mio corpo con Photoshop. Quindi non mi sono nemmeno accorto che questa nuova persona non fosse reale, finché non mi hanno scritto che l'account era un deepfake. Non so ancora se si tratti di una persona generata interamente dall'intelligenza artificiale o se stia usando la voce e l'aspetto di qualcuno per generare questi video. Inoltre, solo di recente mi sono reso conto che l'intento dietro l'account deepfake, che ha oltre 60.000 follower, è vendere e promuovere un'app che genera foto in modo che sembrino scattate con una macchina fotografica usa e getta.

Questa situazione mi ha sicuramente fatto riflettere molto. Dato che non sono effettivamente presente nel video, mi sento meno coinvolta, ma ho visto persone come Arielle Lorre, creatrice di contenuti e podcaster, il cui volto e la cui voce sono stati usati da un'azienda per creare una pubblicità a pagamento generata dall'intelligenza artificiale in cui "parlava" del loro prodotto. Se fossi stata io, sarei stata molto agitata. Mi sarei sentita confusa, spaventata e incazzata. Cercherei di intraprendere un'azione legale.

Nel mio caso, non so bene come mi sentirei se si trattasse di una persona completamente falsa, generata dall'intelligenza artificiale. Credo che sia meno dannoso, ma alcune persone non sanno se sia reale o meno. Ed è dannoso per i creatori di contenuti che devono condividere contenuti su internet, esponendosi al rischio che qualcuno manipoli quell'audio o video e lo usi per promuovere prodotti di cui non hanno mai parlato. Mi dà anche fastidio il fatto che mia madre scorra a volte sui Reels di Instagram, e molti dei nostri genitori e nonni non sempre riescono a distinguere tra una testimonianza umana autentica e una generata dall'intelligenza artificiale. Questo fa leva sulla vulnerabilità di chi non è in grado di distinguere. In generale, dobbiamo solo essere consapevoli dei contenuti che consumiamo e guardare le cose attraverso la lente del "È reale o non lo è?".

L'unica cosa che questa esperienza mi ha davvero confermato è che quando metto al mondo dei figli, voglio impegnarmi attivamente a non condividerli online o a non compromettere in alcun modo la loro sicurezza. Chiunque pubblichi qualcosa su internet è a rischio, non importa se sei un influencer con un seguito o semplicemente qualcuno che ha un video di loro da qualche parte online.

Onestamente, per me, questa è solo una storia divertente. È bizzarro che non si tratti di una persona reale. Non sapevo nemmeno che esistessero gli influencer AI, ma penso che diventeranno più comuni, perché un brand non è obbligato a pagare un influencer finto. Davvero, non riesco a credere che abbiano tenuto Andy nel video e non me. È davvero maleducato.

Per maggiore chiarezza, l'intervista è stata modificata e condensata.

Madison Feller

Vicedirettore digitale

Madison è la vicedirettrice digitale di ELLE.com, dove si occupa anche di attualità, politica e cultura. Se non è online, probabilmente sta facendo un pisolino o sta cercando di non cadere mentre fa arrampicata.