Bu yapay zeka destekli haber bültenini görebiliyor musunuz? Ultra gerçekçi sahte haberler burada.
Güvenilir sunucuları, son dakika grafikleri ve bir muhabirin savaş bölgesinde "canlı" olması durumunda sahte haberleri tespit edebilir misiniz? Ya herhangi bir TV haber raporu kadar gerçekçi olan bu haber, yapay zeka tarafından saniyeler içinde yaratılsaydı?
Bu tür içeriklerin uyandırdığı tuhaflık hissi yeni bir şey değil. Ancak bir zamanlar kaba montajlar veya kaba memler olan şeyler artık profesyonel bir estetiğe, akıcı anlatılara ve medyaya ve hatta gerçek olduğuna inandığımız veya inanmadığımız şeylere olan güveni baltalama tehdidinde bulunan ikna edici bir güce sahip videolara dönüştü.
Son günlerde, yapay zeka tarafından oluşturulan videolar sosyal medyada yayılmaya başladı ve muhabirleri çeşitli durumlarda tasvir ediyor: seller, saldırılar ve hatta uzaylı istilalarını konu alıyor. Çoğunun mizahi bir yaklaşımı veya bir şekilde üretildiklerini gösteren son bir göz kırpması var, ancak soru şu: O iyi niyet olmadığında onları ayırt edebilecek miyiz?
Bu videolar için kullanılan araç Google Veo 3 gibi görünüyorGoogle Veo 3'ün dijital ekosistemde ortaya çıkışı, bu videolar için bir dönüm noktası olarak görülüyor; zira bu, sahte haber hikayelerinin "üreticileri" tarafından kullanılan araç olarak görünüyor.
En etkili videolardan biri, sözde muhabir Angela Carter'ın bir yerleşim bölgesinde meydana gelen bir sel felaketini haberleştirdiğini gösteriyor. Sahne gerçekçi ve acil haberlerin tipik atmosferine sahip. Ancak, birkaç saniye sonra, yapay zeka tarafından oluşturulan figür gülümsüyor ve "Sadece şaka yapıyordum, gerçek değilim," diyor, tam da arkasında kurgusal bir köpek balığı yüzerken. Olay komik ama rahatsız edici: Eğer bu mizah için yapılabiliyorsa, kötü niyetle ne elde edilebilir?
Başka bir klip, sınırda muhabirler, lojistik veriler ve çok ikna edici bir görsel gösterimle Kanada ve Amerika Birleşik Devletleri arasındaki varsayılan bir savaşı yeniden canlandırıyor. Sonunda bir uyarı beliriyor: her şey bugüne kadarki en gelişmiş yapay zeka destekli görsel-işitsel üretim araçlarından biri olan Google Veo 3 ile üretildi.
Google Veo 3 nedir ve neden bu kadar korkutucu?Önceki modelin bir evrimi olarak piyasaya sürülen Google Veo 3 , hiperrealizme yakın bir görsel ve ses ayrıntısı düzeyine sahip sekiz saniyeye kadar video klipler oluşturabilir. Diğer araçların aksine, statik görüntüler veya sessiz videolar oluşturmakla sınırlı değildir. Veo 3, sesle senkronize edilmiş yüzler, ifadeler, dudak hareketleri ve hatta ses efektleri üretir.
Başka bir deyişle, canlı bir televizyon yayınına benzeyen bir ortamda, kendine özgü bir sesle, inançla konuşan bir gazeteci yaratabilirsiniz. Ve en şaşırtıcı olanı: tüm bunlar birkaç dakika içinde gerçekleşebilir.
Eğer size 90'larda yapay zeka haberleri gösterilseydi... Sahte olduğunu anlar mıydınız?
Ya bize inandırıldığından çok daha uzun süredir var ise ve sınırlarını bildiğimizi düşünmemizi sağlamak için bize yavaş yavaş eski, kalitesiz versiyonları yediriliyorsa? pic.twitter.com/L2p66JpXGs
Risklerin farkında olan Google, AI'nın sorumlu kullanımına odaklanmış bir web sitesi sürdürüyor. Amacının "AI tarafından üretilen içeriğin sorumlu bir şekilde oluşturulmasına ve tanımlanmasına yardımcı olmak" olduğunu belirtiyor. Ancak kurumsal amaç bir şey ve binlerce kullanıcının sosyal medyada veya bu teknolojinin şirket tarafından kontrol edilmeyen diğer kullanımlara genişlediğinde bunu kullanması bambaşka bir şey.
Aşırı maruz kalma çağında dezenformasyonSahte videoların dolaşımı yeni bir şey değil, ancak bunların karmaşıklık seviyesi tehlikeli seviyelere ulaştı. Ve bu sadece şüphesiz izleyicileri etkilemiyor. Deepfake ve dezenformasyon konusunda uzman olan gazeteci Nina Schick , 2023'te bir sonraki büyük tehdidin "görsel sahteciliğin demokratikleşmesi" olacağı konusunda uyardı. Sadece seçimlerden veya savaşlardan bahsetmiyordu, aynı zamanda günlük hayattan da bahsediyordu: kişisel ilişkiler, itibar, şantaj, duygusal manipülasyon.
Bu bağlamda, doğal bir felaketin uydurulmuş bir sahnesi viral hale gelebilir ve paniğe yol açabilir. Jeopolitik bir çatışma hakkında sahte bir haber hikayesi piyasaları bozabilir. Ve bir karalama kampanyası bir düğmeye basarak bir kariyeri mahvedebilir.
Sınır Tanımayan Gazeteciler gibi uluslararası örgütler bu olguyla ilgili endişelerini dile getirdiler. Bu yeni senaryoda, tek etkili araç teknolojik değil, eğitimseldir. Uzmanlara göre medya eğitimi küresel bir öncelik haline gelmelidir. Kaynakları nasıl analiz edeceğinizi, gerçekleri nasıl karşılaştıracağınızı ve bilginin nasıl üretildiğini nasıl anlayacağınızı bilmek, okumayı veya yazmayı öğrenmek kadar önemli olacaktır.
eleconomista
