Mężczyzna został oszukany na ponad 100 milionów dolarów przez fałszywą dziewczynę wygenerowaną przez sztuczną inteligencję

Mieszkaniec Szanghaju stracił ponad 27 tys. dolarów (około 111 milionów kolumbijskich pesos) po tym, jak dał się oszukać i nawiązał wirtualny związek z rzekomym partnerem stworzonym przy użyciu sztucznej inteligencji, poinformowały chińskie media państwowe.

Jak podała publiczna stacja CCTV, oszuści wykorzystali narzędzia sztucznej inteligencji do stworzenia realistycznych filmów i zdjęć nieistniejącej kobiety.

Przekonany o autentyczności ich związku, mężczyzna wykonał przelewy na łączną kwotę około 200 000 juanów (około 27 580 dolarów lub 113 milionów kolumbijskich peso) na konto, które jego zdaniem należało do jego partnerki.

Oszuści wykorzystali zmanipulowaną treść, aby nakłonić go do wpłacenia pieniędzy na sfinansowanie przedsięwzięcia biznesowego i pokrycie kosztów leczenia członka rodziny. Aby wzmocnić swoją tezę, sfabrykowali dokumentację medyczną i podrobili dowód osobisty.

Powołując się na dochodzenie przeprowadzone przez władze, CCTV stwierdziło, że operację przeprowadził „zespół oszustów, którzy wysyłali filmy i zdjęcia stworzone przez sztuczną inteligencję lub poprzez połączenie wielu obrazów”.

Państwowe media podkreśliły również, że ofiara „nigdy nie spotkała” osobiście kobiety, z którą się kontaktowała. Na nagraniu wideo opublikowanym przez CCTV pokazano kobiety w różnych sytuacjach, na przykład trzymające paletę farb i idące ulicą miasta.

W oszustwach coraz częściej wykorzystuje się narzędzia wykorzystujące sztuczną inteligencję, które potrafią generować niezwykle realistyczne treści wizualne i pisemne.

Na początku tego miesiąca firma technologiczna Meta ostrzegła użytkowników przed ryzykiem związanym z randkami online , twierdząc, że oszustwa związane z generatywną sztuczną inteligencją są coraz częstsze.

Meta ostrzega użytkowników przed rosnącą liczbą oszustw matrymonialnych w Internecie, w ramach których przestępcy tworzą fałszywe tożsamości, aby wykorzystywać osoby poszukujące partnera.

Do taktyk tych zalicza się wykorzystywanie sztucznej inteligencji generatywnej w celu uczynienia oszustw bardziej przekonującymi.

„To nowe narzędzie w arsenale oszustów” – powiedział David Agranovich, dyrektor ds. globalnej polityki przeciwdziałania zagrożeniom w firmie Meta. Jego zdaniem osoby odpowiedzialne za te oszustwa nieustannie zmieniają swoje strategie, dlatego platformy muszą unowocześnić swoje metody wykrywania.

Metaaplikacje, takie jak Instagram i WhatsApp , korzystają z systemów, które identyfikują podejrzane zachowania, zamiast skupiać się wyłącznie na obrazach , co pozwala im wykrywać oszukańcze działania pomimo sztuczek sztucznej inteligencji. „Dzięki temu nasze metody wykrywania i stosowania są nieco bardziej odporne na sztuczną inteligencję generatywną” – powiedział Agranovich. Jako przykład podał niedawno zlikwidowaną operację, która miała swój początek w Kambodży i była wymierzona w osoby mówiące po chińsku i japońsku.

Jak podaje Meta, badacze z OpenAI odkryli, że w oszustwie wykorzystano narzędzia firmy z San Francisco zajmującej się sztuczną inteligencją, służące do tworzenia i tłumaczenia treści.

Jak twierdzi Rachel Tobac, dyrektor generalna SocialProof Security, generatywna sztuczna inteligencja jest dostępna od ponad roku, ale w ostatnich miesiącach wzrosła jej częstotliwość wykorzystywania przez oszustów. „Mogą też używać tych fałszywych botów , które pozwalają na stworzenie postaci lub wykonywanie połączeń telefonicznych za pomocą klonu głosu bez konieczności interwencji człowieka” – ostrzegł Tobac. Dodał: „Nazywają ich agentami, ale nie są wykorzystywani do obsługi klienta. Są wykorzystywani do oszustw w sposób zautomatyzowany”.

W związku ze zbliżającymi się 14 lutego walentynkami i nadejściem zimy na półkuli północnej oszuści widzą w tym okazję do emocjonalnej manipulacji swoimi ofiarami. „Zdecydowanie widzimy napływ oszustów wykorzystujących tę samotność w środku zimy” – powiedział Tobac.

Głównym celem tych oszustw jest wyłudzenie pieniędzy poprzez zdobycie zaufania ofiary, a następnie zwrócenie się do niej o pomoc finansową lub podanie danych osobowych w celu uzyskania dostępu do kont bankowych . „Bycie grzecznie paranoicznym ma duże znaczenie, podobnie jak sprawdzanie, czy ludzie są tymi, za których się podają” – powiedział Tobac.

Operacje oszustw są rozsiane na wielu platformach, a Meta wykrywa tylko część z nich. W 2023 roku firma usunęła ponad 408 000 kont w krajach Afryki Zachodniej, które służyły do ​​podszywania się pod personel wojskowy lub biznesmenów, co przyciągało ofiary z Australii, Wielkiej Brytanii, Europy i Stanów Zjednoczonych.

W ramach walki z tego typu oszustwami Meta testuje system rozpoznawania twarzy, który ma identyfikować podejrzane profile zgłaszane przez użytkowników lub wykrywane przez narzędzia bezpieczeństwa.

*Treść została przepisana przy pomocy sztucznej inteligencji, na podstawie informacji z AFP oraz sprawdzona przez dziennikarza i redaktora.