Kapsayıcı Yapay Zeka | Etik, bir teknoloji meselesi

"Etik zor bir kelime. Kelime aynı zamanda Yunanca. İyi davranmayı bilmek olarak çevrilebilir," diyor Uluslararası Üniversite'den Melissa Henne, Alman Etik Konseyi'nin bir tanımının giriş cümlelerini alıntılayarak. Henne'ye göre tanım aslında fazlasıyla kural odaklı, diye ekliyor. Sonuçta etik genellikle kural olmadığında devreye giriyor. Örneğin, yeni teknoloji ve kapsayıcılık konuları çakıştığında. Kapsayıcılık, engellilik, köken, cinsiyet veya diğer farklılıklardan bağımsız olarak tüm insanların sosyal yaşamın tüm alanlarına eşit şekilde katılabilmesi fikridir.

Lebenshilfe kişisel gelişim grubu tarafından bu hafta düzenlenen uzman tartışması, robotik, yapay zekâ (YZ) ve katılım konularına odaklanacak. Henne, incelediği bir raporda, mevcut gelişmelerle birlikte, sorunları bağımsız olarak çözebilen sözde otonom sistemlerin günlük yaşamın bir parçası haline geldiğini belirtiyor. YZ, başta sosyal hizmet uzmanlarının görevlerini kolaylaştırarak olmak üzere birçok alanda sosyal hizmetler sektörüne destek sağlıyor. Ayrıca, sade bir dille metin oluşturmaya yardımcı olan YZ araçları da halihazırda mevcut.

Yapay zeka sistemlerinin engelli bireylerin katılımına yönelik planlama süreçlerini nasıl destekleyebileceği konusunda şu anda canlı bir tartışma var. Etik tartışmalar bu süreçte her zaman mevcut. Örneğin Henne, yeni teknolojilerin "hayata hizmet eden" bir şekilde nasıl kullanılabileceğini, yani kullanıcıları için iyi bir yaşama nasıl katkıda bulunabileceklerini araştırıyor. Bu da başka soruları gündeme getiriyor. Örneğin, iyi bir yaşam sürmenin gerçekte ne anlama geldiği gibi.

Burada hâlâ geçerli olan varsayımlar bazen dilbilimsel tartışmalara da yansıyor. Örneğin, "yardımcı teknolojileri" engelli kişilerin yazma veya konuşma becerilerini destekleyen teknolojiler olarak tanımlıyoruz. Ancak eleştirmenler, yapay zekânın tanımı gereği her zaman yardımcı işlevler yerine getirdiğini savunuyor. Çeviri programlarında veya çevrimiçi harita hizmetlerinde gezinmede bize destek oluyor.

"Kapsayıcı yapay zeka teknik bir yan konu değil, sorumlu kalkınmanın temel bir bileşenidir."

Sohbet GPT

Bu tür terimler, engelli bireylerin teknoloji sayesinde güçlendiği varsayımından kaynaklanmaktadır. Bu, teknoloji kullanılmadan önce engelli bireylerin engelli olmayan bireylerden daha az değerli olduğu anlamına gelir. Sosyal teknoloji uzmanı Ashley Shew bu tür terimlere "teknolojik-engellicilik" adını veriyor. Engellilik, engelli bireylere yönelik ayrımcılıktır.

İnsan kavramları teknolojiye uygulandığında da benzer bir durum yaşanır. Örneğin, Chat-GPT gibi yapay zekâ sistemleri, veri kümelerinden sorulan sorulara yanıt üretemezse, dil modeli genellikle uydurma yanıtlar üretir. Yapay zekânın sıklıkla "halüsinasyon gördüğü" söylenir.

Alman Yapay Zeka Araştırma Merkezi'nden Aljoscha Burchardt ve Mainz Üniversitesi Tıp Merkezi'nden kıdemli doktor Xenia Kersting, "Tagesspiegel" gazetesindeki terimi "belirsiz, yanıltıcı ve damgalayıcı" olarak eleştiriyor. Bir insan halüsinasyon gördüğünde, nesnel bir temeli olmayan gerçek bir algıyı tarif eder. Ancak, bir yapay zekanın hiçbir algısı yoktur ve bu nedenle bu algılarla insanlaşırken, orijinal terim çarpıtılmıştır.

Dahası, ayrımcılığı körüklemeyen teknolojilerin nasıl geliştirilebileceği konusunda birçok soru ortaya çıkıyor. Örneğin, Chat-GPT ve diğer dil modelleri, sözde önyargıları açısından incelenmediklerinde ayrımcı yanıtlar ürettiklerini göstermiştir . Önyargı, algoritmaların önceden edinilmiş bir kavramıdır. Bunlar, dayandıkları veri kümelerinden kaynaklanır ve bu veri kümeleri de ayrımcı bir toplumdan türetilmiştir.

Geçmişte, yeni teknolojilerin geliştirilmesi Collingridge ikilemiyle karşı karşıyaydı. Bu ikilem, etik düşünmenin hangi noktada uygun olduğu sorusunu ele alır: sürecin başında, birçok şeyin henüz belirsiz olduğu bir zamanda mı, yoksa sürecin sonunda, artık hiçbir şeyin değiştirilemeyeceği bir zamanda mı? Henne, günümüzde yeni teknolojilerin genellikle faydaları bilinmeden geliştirildiği için bu sorunun artık gündeme gelmediğini belirtiyor. Örneğin Chat-GPT'de durum böyleydi. Bu nedenle, Henne, geliştirme sürecinde sürekli düşünmenin gerekli olduğunu savunuyor.

İster terminoloji, ister dil modelleri veya basit yapay zeka dilinin geliştirilmesiyle ilgili olsun, tüm eleştirilerin ortak noktası şu: Bilim insanları, engelli bireylerin gelişim, test ve veri kümelerine daha fazla katılımını sürekli savunuyor. Chat-GPT de talep üzerine bu konuya değiniyor. Program şunu ekliyor: "Kapsayıcı yapay zeka teknik bir yan mesele değil, sorumlu gelişimin temel bir bileşenidir."