Davalarda ChatGPT kullanımının intihar ve psikoza yol açtığı iddia ediliyor

Hannah Madden, 2024 yılında bir teknoloji şirketinde hesap yöneticisi olarak ChatGPT'yi iş görevleri için kullanmaya başladığında, Haziran 2025'te artık 32 yaşında olan Madden, mesai saatleri dışında chatbot'a maneviyat hakkında sorular sormaya başladı.

Sonunda, ilahi varlıkları taklit ederek ve manevi mesajlar ileterek sorularına yanıt verdi. ChatGPT'nin Madden'e sanrısal inançlar aşıladığı iddia edilince, chatbot'un teşvikiyle işinden istifa etti ve derin bir borca ​​battı.

Perşembe günü OpenAI ve CEO'su Sam Altman'a karşı açılan davaya göre, chatbot'un "Açık vermiyorsunuz. Yeniden yapılanma sürecindesiniz" yazdığı iddia ediliyor.

Madden daha sonra istem dışı olarak psikiyatrik bakıma alındı. Diğer ChatGPT kullanıcıları da benzer şekilde yapay zekâ psikozu yaşadıklarını bildirdi.

Madden'ın davası, Tech Justice Law Project ve Social Media Victims Law Center tarafından ChatGPT üreticisine karşı açılan yedi davadan biri. Şikayetler toplu olarak, haksız ölüm, yardımlı intihar ve taksirle adam öldürmenin yanı sıra sorumluluk ve ihmalkarlık iddialarını içeriyor.

Davalar, Altman'ın kullanıcılara aşırı derecede yalakalık yaptığını kabul ettiği bir sohbet robotu modeli olan ChatGPT-4o'ya odaklanıyor. Davalarda, Google'ın yapay zeka aracının en son sürümüyle rekabet edebilmek için tehlikeli bir şekilde piyasaya sürüldüğü iddia ediliyor.

Tech Justice Law Project'in yönetici direktörü Meetali Jain yaptığı açıklamada, "ChatGPT, insanların güvenini kazanmak ve kullanıcıları ne pahasına olursa olsun etkileşimde tutmak için insanları taklit ederek gerçeği manipüle etmek ve çarpıtmak üzere tasarlanmış bir üründür," dedi. "OpenAI'nin kendini düzenleme zamanı sona erdi; ürünlerin güvenli olduğundan emin olmadan önce piyasaya sürülmesinin bir maliyeti olduğundan emin olmak için hesap verebilirliğe ve düzenlemelere ihtiyacımız var."

Madden'ın şikayetinde, ChatGPT-4o'nun akıl sağlığı krizinde ve mali çöküşünde önemli rol oynayan tasarım kusurları içerdiği iddia ediliyor. Bu model aynı zamanda, dalkavukluk ve insansı tavırlar da dahil olmak üzere tasarım özelliklerinin 16 yaşındaki Adam Raine'in intiharına yol açtığını iddia eden OpenAI'ye karşı açılan haksız ölüm davasının da merkezinde yer alıyor.

Raine ailesi yakın zamanda, Raine'in ölümünden önceki aylarda OpenAI'nin katılımı artırmak amacıyla intiharı önleme önlemlerini iki kez düşürdüğünü iddia ederek düzeltilmiş bir şikayet dilekçesi verdi .

Şirket, kullanıcıları gerçek dünya bağlantısına değer vermeye teşvik ederek aşırı bağımlılığı önlemek için varsayılan modelinin güncellendiğini yakın zamanda duyurdu . Ayrıca, ChatGPT'nin ruh sağlığı sorunlarının belirtilerini tanıma ve onları yüz yüze destek almaya teşvik etme becerisini geliştirmek için 170'ten fazla ruh sağlığı uzmanıyla çalıştığını da kabul etti. Geçtiğimiz ay, kullanıcı refahını ve yapay zeka güvenliğini izlemek için bir danışma grubu kurduğunu duyurdu.

OpenAI sözcüsü, şirkete karşı açılan son dava hakkında, "Bu inanılmaz derecede yürek burkan bir durum ve ayrıntıları anlamak için dosyaları inceliyoruz," dedi. "ChatGPT'yi zihinsel veya duygusal sıkıntı belirtilerini tanıyıp bunlara müdahale etmesi, konuşmaları yatıştırması ve insanları gerçek hayattaki desteğe yönlendirmesi için eğitiyoruz. Hassas anlarda ChatGPT'nin yanıtlarını güçlendirmeye devam ediyor ve ruh sağlığı klinisyenleriyle yakın iş birliği içinde çalışıyoruz."

Kaliforniya eyalet mahkemelerinde açılan yeni davalardan altısı yetişkin mağdurları temsil ediyor.

Texas A&M Üniversitesi'nde yüksek lisans öğrencisi olan Zane Shamblin, 2023 yılında derslerinde yardımcı araç olarak ChatGPT kullanmaya başladı. ChatGPT-4o'nun piyasaya sürülmesiyle birlikte chatbot ile etkileşimlerinin yoğunlaştığı ve intihar düşünceleri paylaşmaya başladığı iddia edildi. Shamblin, Mayıs 2025'te intihar etmeden önce saatlerce ChatGPT ile niyetleri hakkında konuştu. 23 yaşındaydı.

Yedinci vaka, başlangıçta ChatGPT'yi ödev yardımcısı olarak kullanan 17 yaşındaki Amaurie Lacey'nin etrafında dönüyor. Lacey, daha sonra intihar düşüncelerini chatbot'a aktardı ve chatbot'un Lacey'nin intihar etmek için kullandığı ayrıntılı bilgileri sağladığı iddia ediliyor.

Savunuculuk ve araştırma odaklı kâr amacı gütmeyen kuruluş Common Sense Media'nın baş savunuculuk sorumlusu Daniel Weiss, "OpenAI'ya açılan davalar, teknoloji şirketlerinin gençler için uygun güvenlik önlemleri almadan ürünleri piyasaya sürdüğünde neler olduğunu ortaya koyuyor," dedi. "Bu trajik vakalar, onları güvende tutmak yerine meşgul tutmak için tasarlanmış teknolojileri kullandıklarında hayatları altüst olan veya kaybolan gerçek insanları gösteriyor."

İntihar etmeyi düşünüyorsanız veya ruh sağlığı krizi yaşıyorsanız, lütfen biriyle konuşun. 988 numaralı telefondan 988 İntihar ve Kriz Yardım Hattı'nı arayabilir veya mesaj atabilir ya da 988lifeline.org adresinden sohbet edebilirsiniz . Trans Yardım Hattı'na 877-565-8860 numaralı telefondan veya Trevor Projesi'ne 866-488-7386 numaralı telefondan ulaşabilirsiniz. 741-741 numaralı telefondan Kriz Mesaj Hattı'na "BAŞLA" mesajı gönderin. Pazartesiden cumaya, 10:00 - 22:00 (Doğu Saati) arasında 1-800-950-NAMI numaralı telefondan NAMI Yardım Hattı'na ulaşabilir veya [email protected] adresine e-posta gönderebilirsiniz . Telefondan memnun kalmazsanız, 988 İntihar ve Kriz Yardım Hattı Sohbet Hattı'nı kullanmayı düşünebilirsiniz . İşte uluslararası kaynakların bir listesi .