Un influenceur IA deepfake a volé mes photos de mariage

Créatrice de contenu à temps plein, Kelly Stranick ( @kellygracemae ) sait que l'un des risques liés au partage de sa vie en ligne est que, parfois, d'autres personnes tentent de voler ses photos. Ce qu'elle ignorait, c'est que, parfois, ces personnes ne sont pas réelles. Ci-dessous, l'influenceuse basée à Brooklyn raconte, avec ses propres mots, ce qui s'est passé lorsqu'elle a découvert qu'un compte Instagram deepfake, généré par une IA, tentait de faire passer son mariage pour le sien.

En mars 2019, j'ai déménagé à San Francisco pour un emploi dans la tech et j'ai vécu avec trois garçons qui m'ont dit qu'il fallait absolument que je m'inscrive à Hinge. « C'est comme ça que les gens se rencontrent », ont-ils dit. « C'est comme ça que le monde fonctionne maintenant. » Je leur ai dit que j'allais le faire, et j'ai trouvé un partenaire, Andy, et nous sommes allés à un rendez-vous. J'avais à peine 24 ans et je n'avais pas prévu de rencontrer mon mari, mais de fil en aiguille, c'est comme ça que ça s'est terminé. Mai 2019 : mon premier et unique rendez-vous sur Hinge.

En 2022, je pensais qu'on se fiancerait, mais je pensais que ce serait en été. Quand Andy m'a demandée en mariage le 4 mars 2022, il m'a complètement prise au dépourvu ; je portais des leggings et je n'avais pas de maquillage, même si, heureusement, j'avais les cheveux au séchoir. Je ne fais pas partie de ces filles qui grandissent en pensant à leur mariage. Je ne pensais même pas me marier. Je viens d'une famille divorcée et j'ai eu beaucoup de traumatismes liés à mes relations passées, alors je n'ai pas vraiment pensé à me marier un jour. Alors, quand on s'est fiancés, on a fait appel à une organisatrice de mariages à service complet, Veronica Joy Events , qui est aussi une amie de la famille. Je lui ai donné un tableau Pinterest d'idées et je lui ai dit : « Je veux des fleurs colorées et des boules à facettes. Je veux que ça fasse un peu rage », et je l'ai laissée faire.

J'ai commencé à faire des TikToks au printemps 2022, quelques mois après nos fiançailles. C'était juste pour le plaisir – je n'ai pas vraiment trouvé de public avant début 2023 – et je commençais à m'habituer à être plus intime en ligne, notamment en parlant de ma vie, qui à l'époque était consacrée à l'organisation du mariage. Je parlais du déroulement du mariage et des décisions que nous avions prises qui nous semblaient authentiques, comme l'absence de première danse ou de cortège nuptial. Mais je ne dirais pas que mon contenu était spécifiquement consacré au mariage.

Le jour J, j'étais de ceux qui pensaient ne pas avoir d'attentes quant au plus beau jour de leur vie . Ma priorité était d'être calme, présent, de profiter de la journée et de ne pas me laisser submerger par le stress. J'avais du temps pour moi le matin même ; je n'étais pas entouré de nombreux invités pour les préparatifs. Je voulais que ce soit très détendu. Mais comme je n'avais pas ces attentes, ce fut finalement le plus beau jour de ma vie. J'ai pu profiter de tout du début à la fin, car j'avais fixé ces objectifs. J'étais en pleine forme. Si je pouvais être au meilleur de moi-même, comme ce jour-là, chaque jour, rien ne m'arrêterait.

J'étais vraiment impatiente de parler du mariage après coup – pour donner mon point de vue et mes conseils – mais j'ai été surprise de voir à quel point les gens étaient curieux. J'ai parlé de nos prestataires et de mon état d'esprit concernant notre mariage. Cependant, ce qui a le plus retenu l'attention, c'est le fait que nous ayons filé du mariage et que nous soyons allés au Brooklyn Mirage pour l'after.

Puis, récemment, j'ai reçu un message Instagram d'une de mes abonnées. Elle m'a dit : « Salut, je faisais défiler la vidéo et j'ai vu cette photo. C'est ta photo de mariage. » Dans la vidéo, il y avait une photo de mon mariage, de mon mari, Andy, de tout , mais ce n'était pas mon visage. Cette autre influenceuse avait remplacé mon visage par le sien, et elle parlait de petites choses qu'elle avait faites à son mariage. Rien de tout cela n'avait le moindre rapport avec moi, si ce n'est qu'elle avait utilisé ma photo comme introduction à sa vidéo. Ma réaction immédiate a été : « Mais c'est quoi ce bordel ? Qui est cette personne qui prend ma photo de mariage, qui y met son visage et qui en fait du contenu ? »

Je n'avais même pas réalisé qu'il pouvait s'agir d'une IA. Évidemment, on utilise l'IA pour retoucher des photos, mais je n'avais pas réalisé que la personne dans la vidéo était une IA avant de publier un article sur cette épreuve. J'ai alors commencé à recevoir de nombreux messages disant : « C'est un deepfake. Ce n'est même pas une vraie personne. »

Une capture d'écran de la vidéo en question.

Je n'avais jamais partagé cette anecdote en ligne, mais il m'est arrivé quelque chose de similaire un peu moins de six mois après notre mariage. Un de mes abonnés m'a alerté qu'une fille sur RedNote avait pris exactement la même photo et avait magistralement photoshopé son visage sur mon corps. Je n'avais donc même pas réalisé que cette nouvelle personne n'était pas réelle, jusqu'à ce que des gens m'envoient un message disant que le compte était un deepfake. Je ne sais toujours pas s'il s'agit d'une personne entièrement générée par l'IA ou s'ils utilisent la voix et l'image d'une personne pour générer ces vidéos. Je n'ai également réalisé que récemment que l'objectif de ce compte deepfake, qui compte plus de 60 000 abonnés, était de vendre et de promouvoir une application qui génère des photos semblant provenir d'un appareil photo jetable.

Cette situation m'a beaucoup fait réfléchir. Comme je ne suis pas dans la vidéo, je me sens moins impliquée, mais j'ai vu des personnes comme Arielle Lorre, créatrice de contenu et podcasteuse, dont le visage et la voix ont été utilisés par une entreprise pour créer une publicité payante générée par l'IA où elle « parlait » de leur produit. À ma place, je serais très en colère. Je serais tellement confuse, effrayée et furieuse. J'essaierais d'intenter une action en justice.

Dans mon cas, je ne sais pas trop quoi penser du fait qu'il s'agisse d'une personne totalement fausse, générée par une IA. J'ai l'impression que c'est moins dangereux, mais certaines personnes ignorent aussi si c'est réel ou non. Et c'est dangereux pour les créateurs de contenu qui doivent partager du contenu sur Internet et qui s'exposent ainsi au risque que quelqu'un manipule ces fichiers audio ou vidéo et les utilise pour promouvoir des produits dont ils n'ont jamais parlé. Je suis aussi gêné que ma mère consulte parfois des Reels Instagram, et que beaucoup de nos parents et grands-parents ne fassent pas toujours la différence entre un témoignage humain authentique et un témoignage généré par une IA. Cela exploite la vulnérabilité des personnes qui ne sont pas capables de faire la différence. En général, il suffit d'être conscient du contenu que nous consommons et de l'examiner en se demandant : « Est-ce réel ou non ? »

Ce que cette expérience m'a vraiment confirmé, c'est que lorsque je mets au monde des enfants, je veux m'efforcer de ne pas les partager en ligne ni de compromettre leur sécurité. Quiconque publie quoi que ce soit sur Internet est en danger, que vous soyez un influenceur avec de nombreux abonnés ou simplement quelqu'un qui a une vidéo de lui en ligne.

Honnêtement, pour moi, c'est juste une histoire drôle. C'est bizarre que ce ne soit pas une vraie personne. Je ne savais même pas que les influenceurs IA existaient, mais je pense qu'ils vont devenir plus courants, car une marque n'a plus besoin de payer un faux influenceur. Franchement, je n'arrive pas à croire qu'ils aient gardé Andy dans la vidéo et pas moi. C'est tellement impoli.

Cette interview a été éditée et condensée pour plus de clarté.

Madison Feller

Rédacteur adjoint numérique

Madison est rédactrice adjointe numérique chez ELLE.com, où elle couvre également l'actualité, la politique et la culture. Si elle n'est pas connectée, elle fait probablement une sieste ou essaie de ne pas tomber en faisant de l'escalade.