Un uomo è stato truffato per oltre 100 milioni di dollari da una finta fidanzata generata dall'intelligenza artificiale

Un abitante di Shanghai ha perso più di 27.000 dollari (circa 111 milioni di pesos colombiani) dopo essere stato ingannato e indotto in una relazione virtuale con un presunto partner creato utilizzando l'intelligenza artificiale, hanno riferito i media statali cinesi.

Secondo quanto riportato dall'emittente pubblica CCTV, i truffatori hanno utilizzato strumenti di intelligenza artificiale generativa per produrre video e fotografie realistici di una donna inesistente.

Convinto dell'autenticità della loro relazione, l'uomo effettuò trasferimenti per un totale di circa 200.000 yuan (circa 27.580 dollari o 113 milioni di pesos colombiani) sul conto che riteneva appartenesse alla sua compagna.

I truffatori hanno utilizzato questo contenuto manipolato per convincerlo a versare denaro per finanziare un'iniziativa imprenditoriale e coprire le spese mediche di un familiare. Per rafforzare la loro tesi, hanno fabbricato documenti medici e un documento d'identità falso.

Citando un'indagine delle autorità, la CCTV ha affermato che l'operazione è stata condotta da un "team di truffatori che ha inviato video e foto creati dall'intelligenza artificiale o combinando più immagini".

I media statali hanno anche sottolineato che la vittima “non ha mai incontrato” di persona la donna con cui era in contatto. In un video diffuso dalla CCTV, vengono mostrate le immagini di una donna in diverse situazioni, ad esempio mentre tiene in mano una tavolozza di colori e cammina lungo una strada cittadina.

Gli strumenti di intelligenza artificiale in grado di generare contenuti visivi e scritti altamente realistici vengono sempre più utilizzati nelle frodi.

All'inizio di questo mese, la società tecnologica Meta ha messo in guardia gli utenti sui rischi degli incontri online , affermando che le truffe basate sull'intelligenza artificiale generativa sono in aumento.

Meta ha avvisato gli utenti dell'aumento delle truffe sentimentali online, in cui i criminali creano false identità per approfittarsi delle persone in cerca di un partner.

Queste tattiche includono l'uso dell'intelligenza artificiale generativa per rendere le loro bufale più convincenti.

"Si tratta di un nuovo strumento nell'arsenale dei truffatori", ha affermato David Agranovich, direttore della politica di contrasto alle minacce globali di Meta. Secondo lui, i responsabili di queste frodi cambiano costantemente le loro strategie, motivo per cui le piattaforme devono aggiornare i loro metodi di rilevamento.

Le meta-app come Instagram e WhatsApp utilizzano sistemi che identificano comportamenti sospetti anziché concentrarsi esclusivamente sulle immagini , consentendo loro di rilevare attività fraudolente nonostante i trucchi dell'intelligenza artificiale. "Ciò rende il nostro rilevamento e la nostra applicazione in un certo senso più resilienti all'intelligenza artificiale generativa", ha affermato Agranovich. A titolo di esempio, ha citato un'operazione recentemente smantellata, partita dalla Cambogia e che aveva come bersaglio persone che parlavano cinese e giapponese.

I ricercatori di OpenAI hanno scoperto che la frode utilizzava strumenti dell'azienda di intelligenza artificiale con sede a San Francisco per creare e tradurre i contenuti, ha riferito Meta.

Secondo Rachel Tobac, CEO di SocialProof Security, l'intelligenza artificiale generativa è disponibile da più di un anno, ma negli ultimi mesi il suo utilizzo da parte dei truffatori è aumentato. "Possono anche utilizzare questi falsi bot che consentono di creare un personaggio o di effettuare chiamate telefoniche utilizzando un clone vocale senza bisogno dell'intervento umano", ha avvertito Tobac. Ha aggiunto: "Li chiamano agenti, ma non vengono utilizzati per il lavoro di assistenza clienti. Vengono utilizzati per truffe in modo automatizzato".

Con l'avvicinarsi di San Valentino, il 14 febbraio, e l'arrivo dell'inverno nell'emisfero settentrionale, i truffatori vedono in questo un'opportunità per manipolare emotivamente le loro vittime. "Stiamo sicuramente assistendo a un afflusso di truffatori che approfittano della solitudine in pieno inverno", ha affermato Tobac.

Lo scopo principale di queste truffe è quello di ottenere denaro guadagnandosi la fiducia della vittima e poi chiedendole aiuto finanziario o informazioni personali per accedere ai conti bancari . "Essere educatamente paranoici può fare molto, così come verificare che le persone siano davvero chi dicono di essere", ha affermato Tobac.

Le operazioni fraudolente sono diffuse su più piattaforme e Meta ne rileva solo una parte. Nel 2023, la società ha rimosso più di 408.000 account nei paesi dell'Africa occidentale, utilizzati per impersonare personale militare o uomini d'affari e attrarre vittime in Australia, Regno Unito, Europa e Stati Uniti.

Nell'ambito dei suoi sforzi per combattere queste frodi, Meta sta testando un sistema di riconoscimento facciale per identificare i profili sospetti segnalati dagli utenti o rilevati dai suoi strumenti di sicurezza.

*Questo contenuto è stato riscritto con l'ausilio dell'intelligenza artificiale, sulla base di informazioni fornite dall'AFP, ed è stato rivisto da un giornalista e da un redattore.