Yorucu görevler için yapay zeka ajanları sağlama yarışı devam ediyor, ancak verilerimizi onlara emanet etmeli miyiz?

Çevrimiçi bilgi edinme ve görevleri tamamlama konusunda yeni bir araç setinin piyasaya sürülmesi, geleneksel aramayı yeniden keşfetmeyi ve yapay zeka sohbet robotlarını bir üst seviyeye taşımayı vaat ediyor. Ancak bu, güvenilirlik ve güvenlik konusunda önemli soruları da beraberinde getiriyor.

Popüler yapay zeka destekli ChatGPT sohbet robotunun geliştiricisi OpenAI, bu ayın başlarında ChatGPT Agent'ı kullanıma sunmaya başladı ve diğer büyük yapay zeka oyuncuları da benzer araçlarla karşımıza çıkıyor. Kullanıcıların, sanal bir kişisel asistan veya artık bilinen adıyla bir yapay zeka ajanı olarak tasarlanan bir teknoloji olan Agentic AI'yı satın alacaklarını umuyorlar.

Kanadalı fütürist Sinead Bovell, CBC News'e verdiği röportajda, "Yani bir yapay zeka aracı, büyük ölçüde ona verdiğiniz hedefe göre otonom eylemlerde bulunur." dedi.

Kuruluşlara yeni teknolojiler konusunda danışmanlık yapan teknoloji eğitim şirketi WAYE'nin kurucusu Bovell, "Ona nasıl davranması gerektiğini söylemenize, sonra gidip bilgi bulmasına, plan yapmasına, uçak bileti ayırtmasına vs. gerek yok" dedi.

Yapay zeka ajanları nelerdir?

Şu anda yalnızca ücretli abonelerin çoğunun kullanımına sunulan ChatGPT Agent, OpenAI'nin geliştirdiği iki aracı bir araya getiriyor: ChatGPT'de halihazırda kullanılan gelişmiş bir arama aracı olan Deep Research ve web siteleriyle etkileşime girerek kullanıcılar adına çevrimiçi görevleri tamamlaması beklenen Operator.

Kullanıcılar, tanıdık ChatGPT sohbet robotu aracılığıyla aracıya erişir, ancak ChatGPT Aracısı kendi sanal tarayıcısı ve bilgisayarı aracılığıyla ekranınızda çalışır.

Aracı yapay zekanın genel amacı, çevrimiçi görevleri daha doğal ve verimli bir şekilde gerçekleştirmektir.

Örneğin, en ucuz uçuşu bulmak için farklı havayolu şirketlerinin web sitelerinde saatler harcamak yerine, bir yapay zeka temsilcisi kullanmak, sizin için sıkıcı aramayı yapan ve ardından size en iyi seçenekleri sunan güvenilir bir idari asistanla etkileşime geçmek gibi olacaktır.

Aracı yapay zekanın altın hücumu

Agentic AI, yapay zeka çevrelerinde büyük ilgi görüyor ve birçok büyük oyuncu bu alanın peşinde.

Bovell, "Yapay zekâ ajanları, yapay zekâ odaklı bir topluma veya yapay zekâ çağına doğru evrimin bir sonraki adımı olarak görülüyor," dedi. "Bu nedenle, bir bakıma kutsal kase konumundalar ve büyük rekabetin yaşandığı yer onlar."

Örneğin Google, 2024'ün sonlarında duyurduğu Project Mariner AI aracısını geliştiriyor. Google, Mayıs ayında bunun ABD'de en yüksek AI katmanı için ödeme yapanlar için kullanılabilir olacağını söyledi.

Google ve Alphabet CEO'su Sundar Pichai, Mayıs ayında Google'da yaptığı bir konuşmada, şirketin o zamandan bu yana büyük ilerleme kaydettiğini söyledi.

"İlk olarak, çoklu görev özelliğini kullanıma sunuyoruz ve artık 10'a kadar eş zamanlı görevi denetleyebiliyor. İkinci olarak, Öğret ve Tekrarla adlı bir özellik kullanıyor. Bu özellik sayesinde, ona bir görevi bir kez gösterebiliyorsunuz ve gelecekte benzer görevler için bir plan öğreniyor."

Yapay zeka tabanlı bir arama motoru şirketi olan Perplexity, Temmuz ayı başlarında Comet Assistant'ı içeren aracı tarayıcısı Comet'i yayınladı. Comet, belirli ücretli aboneler tarafından kullanılabilir. Aracı alanında çalışan başka küçük şirketler de var.

Güvenilirlik faktörü

Yapay zeka sohbet robotlarını kullanan herkesin onaylayacağı gibi, bu sistemler hata yapabilir. Peki bu, sizin adınıza görev üstlenmek üzere tasarlanmış araçların güvenilirliği açısından ne anlama geliyor?

Bilişsel bilimci, yazar ve yapay zeka girişimcisi Gary Marcus, e-posta yoluyla yaptığı açıklamada, "Bir yapay zeka aracının bir uçuş rezervasyonu yapmak, bir formu doldurmak, bir web sayfası oluşturmak veya sizin için bir e-postayı yanıtlamak gibi bir şey yaptığı her seferinde, neler olup bittiğine dair oldukça net bir anlayışa ihtiyacı vardır" dedi.

"İade edilemeyen yanlış bir bilet almak gibi en ufak bir hata bile pahalıya mal olabilir" dedi.

"Gerçek şu ki bu sistemler, insanların nasıl konuştuğunu modelledikleri için kulağa doğru gelen şeyler söylüyorlar, ancak ayrıntılar genellikle yanlış."

Korkuluklar

OpenAI, ChatGPT Agent'ı kullanıma sunarken hata sorununa, yani aracının yanlış yönlendirilme riskine karşı uyarıda bulundu.

OpenAI araştırmacısı Casey Chu, 17 Temmuz'daki lansmanda, kredi kartı bilgilerini girmesini isteyen kötü amaçlı bir web sitesine rastlayabilecek bir yapay zeka aracısına örnek verdi.

"Yardımcı olmak üzere eğitilmiş bir ajan bunun iyi bir fikir olduğuna karar verebilir. Bunun olmamasını sağlamak için çok çalıştık. Modelimizi şüpheli web sitelerindeki şüpheli talimatları görmezden gelecek şekilde eğittik."

Yapay zeka ajanlarını kullanırken, kullanıcıların zararlı adımlar atmaması için müdahale etmelerine, düzeltmelerine ve doğrulamalarına olanak tanıyan bir kontrole sahip olmaları gerekecektir. Bunun nasıl gerçekleştiğini şimdiden görebiliyoruz.

Örneğin, ChatGPT Agent'ın Devralma modu, kullanıcının kredi kartı bilgilerini manuel olarak girmesine olanak tanır. Chu ayrıca, temsilcinin "son adımda sizden onay isteyeceğini" de belirtti.

Yine de bazılarının derin güvenlik endişeleri var. Mart ayında, gizlilik odaklı mesajlaşma uygulaması Signal'in başkanı Meredith Whittaker, SXSW teknoloji konferansında bir izleyici kitlesine, "etken yapay zeka kullanımında güvenlik ve gizlilik açısından derin bir sorun" olduğunu söyledi.

Bir yapay zeka aracının kişisel asistan olarak gerçekten faydalı olabilmesi için takviminize, kişilerinize, e-postanıza gibi şeylere erişebilmesi gerekir.

Google'lamanın sonu mu?

Google'ın, insanların çevrimiçi ortamda bilgi edinme biçimini uzun süredir belirleyen baskın oyuncu olması nedeniyle, aracı yapay zeka mücadelesinde kazanacağı veya kaybedeceği çok şey var. Yapay zeka, rakiplerinin önünde kalma stratejisinin merkezinde yer alıyor gibi görünüyor.

Google, kullanıcıların daha uzun ve karmaşık sorgular sormalarına olanak tanıyan daha fazla yapay zeka destekli özellik içeren Yapay Zeka Modu'nu kullanıma sunmaya başladı. Yapay zeka aracı Project Mariner'ın da yakın gelecekte Yapay Zeka Modu'na dahil edilmesi bekleniyor.

Google, insan kullanıcıların bilgiye hızlı ve kolay bir şekilde ulaşmasına yardımcı olarak adını duyurmuş olsa da, bilgiye ulaşma şeklimiz değişiyor.

Bovell, mevcut internet tarayıcılarının yapay zeka çağına uygun tasarlanmadığını söylüyor.

"Bunlar insan trafiği için tasarlandı. İnsan izleyiciler, belirli web sayfalarına bakan insanlar," dedi.

"İnsanların internetin birincil kullanıcısı olduğu sonun başlangıcına ulaştık."

Pew Araştırma Merkezi'nin yeni araştırması, Google'ın yapay zeka özetlerini okuyan kişilerin web sitelerini ziyaret eden kişi sayısını azalttığını gösteriyor. Yapay zeka özeti görmeyen kullanıcılar, özet görenlere göre web sitesi bağlantılarına neredeyse iki kat daha fazla tıkladı.

Bu durum, çevrimiçi reklamlarına ilgi çekmek için arama motorlarından gelen trafiğe güvenen içerik üreticileri için büyük sonuçlar doğuruyor.

Şu anda OpenAI, Google ve Perplexity'nin aracı sistemleri ücretli katmanlara bağlı. Dolayısıyla, bu araçların ücretsiz olarak yaygın olarak kullanıma sunulup sunulmayacağı veya yaygın olarak benimsenip benimsenmeyeceği hâlâ belirsizliğini koruyor.

Yakın gelecekte kullanıcılar, özelliklerin kullanışlılığı ile denetim ihtiyacı ve maliyet arasında bir denge kurmak zorunda kalacaklar.

Ancak nihayetinde, yapay zeka ajanlarının bizim adımıza hareket ettiği bir geleceği yönetecek kurallar henüz yazılı değil ve bu durum Bovell gibi insanları endişelendiriyor.

"Belki de hala bazı güvenlik açıklarını, gizlilik açıklarını ve yapay zeka sistemlerinin hala bir şeyler uydurmasıyla ilgili zorlukları çözememiş olmamız beni biraz şaşırtıyor, ancak yapay zeka ajanlarıyla tam gaz ilerlemeye devam ediyoruz."