Meta AI'ya sorulan sorular herkese açık hale gelebilir

ABD'de, Facebook, Instagram ve yeni bağımsız uygulama Meta AI gibi platformlarda kullanıma sunulan ve bir milyardan fazla kullanıcı tarafından kullanıldığı söylenen Meta'nın yapay zeka sohbet robotunu kullananlar, etkileşimlerinin herkese açık bir vitrinde yayınlanabileceğini görebilecek .

Bunun nedeni, asistana gönderilen her türlü ve her türlü talebin, bunları yazan kişiye açıkça bildirilmeden veya engelleme imkânı olmadan, herkesin okuyabileceği “ Keşfet ” bölümünde yayınlanmasıdır.

Somut olarak, bu, hassas veya tamamen kişisel soruların bile yapay zeka ile yapılan konuşmanın özel alanını terk edebileceği (ancak bunu bir yapay zekaya söylediğimizde hala "özel alan" olarak tanımlayabilir miyiz?) ve herkesin görebileceği etkileşim örnekleri olarak ortaya çıkabileceği ve yapay zeka ile yapılan konuşmaların paylaşılan bir arşivini besleyebileceği anlamına gelir.

Sonuç? Özellikle bağlamından koparıldığında uygunsuz veya utanç verici görünebilecek mahrem ayrıntıların, gizli verilerin veya taleplerin yanlışlıkla ifşa edilmesi.

Gizlilik Tehlike Altında: Net Bir Uyarı Yok

Ana sorunlardan biri şeffaflığın eksikliğidir: Birçok kullanıcı, Meta'nın AI asistanına sordukları şeyin o bölümde herkese açık olarak görüntülenebileceğinin farkında değildir . Aslında, gönderirken açık bir uyarı yoktur veya isteğin Keşfet bölümünün akışında potansiyel olarak ifşa edilmesini engellemenin net bir yolu yoktur.

Uygulamada, bir kişi karmaşık ilişkiler, sağlık semptomları, yasal sorunlar veya kişisel düşünceler hakkında tavsiye isteyebilir - isim, veri, kişisel numaralar girerek - bunu özel veya daha iyi bir ifadeyle "korunan" bir etkileşimde yapmayı düşünerek ve istemeden de olsa kendini herkesin danışabileceği bir kamusal ilan panosunda bulabilir.

Elbette, Wired US'ın da gösterdiği gibi, cinsiyet, din, aile ve iş ile ilgili soruların kamuoyuna açık bir şekilde sorulduğuna dair çok sayıda rapor var; bunlardan bazıları açık, aşağılayıcı veya saldırgan bir şekilde.

Kabul edilemez içeriği güçlendirebilen bir sistem

Sorun elbette gizlilikle sınırlı değil. Discover bölümünü çalıştıran algoritma , önceden bir insan filtresi olmadan çalışıyor gibi görünüyor.

Bu, potansiyel olarak zararlı veya ayrımcı soruların - hatta nefret söylemi veya kışkırtma sınırını aşan içeriklerin - yaygın bir şekilde görüntülenebileceği ve dağıtılabileceği, zehirli veya şiddet içeren dilin normalleştirilebileceği anlamına gelir.

Meta, otomatik moderasyon araçları kullandığını iddia etse de platformun kusurlardan arınmış olmadığı açık.

İtalya'da (şimdilik) alarm sınırlı

Şu anda bu senaryolar aslında yalnızca Meta AI uygulamasının tüm özellikleriyle mevcut olduğu Amerika Birleşik Devletleri'nde gerçekleşebilir. Ancak İtalya'da, bağımsız Meta AI uygulamasıyla deneyim hala çok sınırlıdır : asistanla etkileşime girmenin tek yolu Ray-Ban Meta gözlükleridir ve işlevler hala kısmidir.

Örneğin WhatsApp , Messenger veya Instagram üzerinden Meta AI'ya eklenen istemlerin aynı yolu izlemesi ihtimal dışı olmasa da, uygulamanın ülkemizde tamamen dağıtılması an meselesidir. Bu gerçekleştiğinde, aynı dinamikler Avrupa'da da tekrarlanabilir ve GDPR'nin katı mevzuatı ve dijital hizmetlere ilişkin düzenlemelerin diğer tüm kısıtlamaları göz önüne alındığında, kişisel verilerin korunmasıyla ilgili sonuçlar daha da kritik hale gelebilir.

Kullanıcı ne yapabilir?

Meta , ayarların varsayılan olarak gizli olduğunu söylüyor. Örneğin, bir sözcü olan Daniel Roberts, ABD yayınına bir e-postada kullanıcıların Meta AI ile olan sohbetlerinin , bunları Discover akışında paylaşmak için çok adımlı bir süreçten geçmedikleri sürece aslında gizli olduğunu söyledi.

Ancak grup, Meta AI platformunda kişisel olarak tanımlanabilir bilgilerin paylaşılmasını önlemek için hangi önlemleri aldığına dair sorulara yanıt vermedi. Kısacası, alan biraz gri — ve Discover'da ortaya çıkanlar tamamen proaktif ve bilinçli ifşanın sonucu gibi görünmüyor — ve gizliliği yönetmek için ayrıntılı araçlar eksik.

Kullanım şartlarının danışılması bile belirsiz ve dağınıktır. Bir asistan aynı zamanda bir "editör" veya en azından içerik motoru haline gelirse, halka ne gösterileceğine karar verebilme yeteneğine sahipse, yeni kontrol, şeffaflık ve farkındalık garantilerine ihtiyaç vardır.

Şirket, geçen nisan ayında bağımsız uygulamayı duyuran bir blog yazısında, "paylaşmayı seçmediğiniz sürece akışınızda hiçbir şey paylaşılmaz" yazmıştı. Duyuruda ayrıca kullanıcıların yapay zekasından "sizin hakkınızda şeyleri hatırlamasını" ve "Meta ürünleri genelinde paylaşmayı seçtiğiniz bilgilerden, örneğin profiliniz ve beğendiğiniz veya etkileşimde bulunduğunuz içeriklerden yararlanarak sorularınıza daha alakalı yanıtlar vermesini" isteyebileceği açıklanmıştı. Ancak bunun beklenenden çok daha ileri gittiği anlaşılıyor.