Sahte yapay zeka tarafından oluşturulan kız arkadaş, bir adamı 100 milyon dolardan fazla dolandırdı

Çin devlet medyasının haberine göre, Şanghay'da yaşayan bir kişi, yapay zeka kullanılarak yaratılmış bir partnerle sanal ilişkiye kandırılarak 27.000 dolardan (yaklaşık 111 milyon Kolombiya pesosu) fazla para kaybetti .

Kamu yayın kuruluşu CCTV'nin haberine göre dolandırıcılar, var olmayan bir kadının gerçekçi videolarını ve fotoğraflarını üretmek için üretken yapay zeka araçlarını kullandı .

İlişkilerinin gerçek olduğuna ikna olan adam, partnerine ait olduğunu düşündüğü hesaba toplamda yaklaşık 200 bin yuan (27 bin 580 dolar veya 113 milyon Kolombiya pesosu) para transferi yaptı .

Dolandırıcılar, bu manipüle edilmiş içeriği kullanarak, bir ticari girişimin finansmanına katkıda bulunması ve bir aile üyesinin tıbbi masraflarını karşılaması için onu ikna etmeye çalıştılar. Davalarını güçlendirmek için tıbbi belgeler ve sahte kimlik düzenlediler.

Yetkililerin yaptığı soruşturmaya atıfta bulunan CCTV, operasyonun "yapay zeka ile oluşturulan veya birden fazla görüntünün birleştirilmesiyle oluşturulan video ve fotoğrafları gönderen bir dolandırıcı ekibi" tarafından gerçekleştirildiğini belirtti.

Devlet medyası ayrıca , mağdurun temas halinde olduğu kadınla "asla tanışmadığını" vurguladı. CCTV'nin yayımladığı görüntüde, bir kadının elinde boya paleti tuttuğu ve şehir caddesinde yürüdüğü gibi farklı senaryolarla görüntüleri yer aldı.

Son derece gerçekçi görsel ve yazılı içerikler üretebilen yapay zeka araçları, dolandırıcılık amaçlı olarak giderek daha fazla kullanılıyor.

Teknoloji şirketi Meta, bu ayın başlarında, çevrimiçi flörtün riskleri konusunda kullanıcıları uyardı ve üretken yapay zeka dolandırıcılıklarının artışta olduğunu söyledi.

Meta , suçluların eş arayan insanlardan faydalanmak için sahte kimlikler oluşturduğu çevrimiçi aşk dolandırıcılıklarının artışına karşı kullanıcıları uyardı.

Bu taktikler arasında, aldatmacalarını daha inandırıcı kılmak için üretken yapay zekanın kullanılması da yer alıyor.

Meta'nın küresel tehdit engelleme politikası direktörü David Agranovich, "Bu, dolandırıcıların cephaneliğindeki yeni bir araç" dedi. Bu dolandırıcılıkların sorumlularının stratejilerini sürekli değiştirdiğini belirten uzman, bu nedenle platformların tespit yöntemlerini güncellemeleri gerektiğini söyledi.

Instagram ve WhatsApp gibi meta uygulamaları , yalnızca görsellere odaklanmak yerine şüpheli davranışları belirleyen sistemler kullanıyor ve bu sayede yapay zeka hilelerine rağmen dolandırıcılık faaliyetlerini tespit edebiliyorlar. Agranovich, "Bu, tespit ve uygulamamızı üretken yapay zekaya karşı daha dayanıklı hale getiriyor." dedi. Örnek olarak, Kamboçya'da başlayan ve Çince ve Japonca konuşan insanları hedef alan, yakın zamanda dağıtılan bir operasyondan bahsetti.

Meta'nın haberine göre, OpenAI araştırmacıları dolandırıcılık planında içerik oluşturmak ve çevirmek için San Francisco merkezli yapay zeka şirketinin araçlarının kullanıldığını keşfetti.

SocialProof Security CEO'su Rachel Tobac'a göre, üretken yapay zeka bir yıldan fazla süredir mevcut, ancak dolandırıcılar tarafından kullanımı son aylarda arttı. Tobac, "Ayrıca, insan müdahalesine gerek kalmadan bir karakter yaratmanıza veya ses klonu kullanarak telefon görüşmeleri yapmanıza olanak tanıyan bu sahte botları da kullanabilirler" uyarısında bulundu. "Onlara acente diyorlar ama müşteri hizmetleri işi için kullanılmıyorlar. Otomatik bir şekilde dolandırıcılık için kullanılıyorlar." diye ekledi.

14 Şubat Sevgililer Günü yaklaşırken ve kış havası kuzey yarımküreye vururken, dolandırıcılar kurbanlarını duygusal olarak manipüle etmek için bir fırsat görüyor. Tobac, "Kışın ortasındaki yalnızlığı fırsat bilen dolandırıcıların akınına uğradığımızı kesinlikle görüyoruz" dedi.

Bu dolandırıcılıkların temel amacı , kurbanın güvenini kazanarak para elde etmek ve ardından banka hesaplarına erişmek için finansal yardım veya kişisel bilgilerini talep etmektir . Tobac, "Nazik bir şekilde paranoyak olmak ve insanların söyledikleri kişi olup olmadıklarını doğrulamak çok önemlidir." dedi.

Dolandırıcılık operasyonları birden fazla platforma yayılıyor ve Meta bunların yalnızca bir kısmını tespit edebiliyor. Şirket, 2023 yılında Batı Afrika ülkelerinde askeri personel veya iş adamlarını taklit ederek Avustralya, Birleşik Krallık, Avrupa ve ABD'de kurban çeken 408.000'den fazla hesabı kaldırdı .

Meta, bu dolandırıcılıklarla mücadele çabalarının bir parçası olarak, kullanıcılar tarafından bildirilen veya güvenlik araçları tarafından tespit edilen şüpheli profilleri belirlemek için bir yüz tanıma sistemi test ediyor .

*Bu içerik AFP'den alınan bilgiler ışığında yapay zeka yardımıyla yeniden yazıldı ve bir gazeteci ve bir editör tarafından incelendi.