SohbetGPT. Yanlış tanı uyarısı

İspanyol Maldita platformu, internet siteleri ve sosyal medyada, yapay zeka modellerine başvurarak teşhis koyan kişilerin ifadelerinin yayılması üzerine, ChatGPT gibi araçların yanlış teşhisler koyabileceği ve doktorların yerini tutmayacağı uyarısında bulundu.

Sosyal medyada, yapay zeka (YZ) aracının tıbbi teşhis koyabildiğini iddia eden, "ChatGPT'den elimi okumasını istedim ve cilt kanserini tespit etti" veya "ChatGPT, doktorlardan bir yıl önce bir kadına kanser teşhisi koydu" gibi iddialar dolaşıyor.

Elon Musk aynı zamanda chatbot'unun (kullanıcılarla metin yoluyla iletişim kurmak için yapay zeka ve programlama kullanan sanal asistan) "doktorların söylediğinden daha iyi" teşhis koyabileceğini garanti etti ve sosyal medyada bu araçları bu amaçla kullanan kişilerden birçok referans var.

Ancak platform, yapay zeka sohbet robotlarının sonuçlarının olasılıklara dayandığını, eğitim verilerinin güvenilir olmayabileceğini ve bir doktorun yapabileceği kapsamlı analizi yapamayacağını belirtiyor.

Platform tarafından röportaj yapılan bir doktor, "Bir chatbot, gerekli tıbbi analizi gerçekleştiremez ve teşhis koyabilmek için yeterli bilgiyi işleyemez ; bu nedenle patolojiler veya bağlam gibi diğer faktörleri hesaba katmaz" uyarısında bulunuyor.

Bu anlamda yapay zeka araçlarının güvenilir bilgi kaynakları olmadığını ve "yanlış teşhislere, yetersiz tedaviye ve sağlık risklerine yol açabilecek" hatalar yapabileceğini belirten uzman, bu nedenle her zaman bir sağlık uzmanına danışmanın hayati önem taşıdığını sözlerine ekledi.

Platform ayrıca bu tür araçların, insanların sağlığına zararlı şeylerin önerilmesine yol açabilecek kesin olmayan, yanlış veya taraflı sonuçlar yaratan halüsinasyonlara neden olabileceği konusunda uyarıyor.

Maldita'nın ulaştığı bir üniversite profesörü, "Henüz sağlam veya güvenilir olmayan bir sistemden teşhis isteyerek sağlığınızı riske atamazsınız" diyor.

Ayrıca, görseller ve tıbbi belgeler gibi sağlık verilerinin yapay zeka sohbet robotlarıyla paylaşılması, her bir kişinin mahremiyeti açısından risk oluşturabilir ve şirketlerin bu bilgileri yapay zeka modellerini eğitmek için kullanma olasılığı gündeme gelebilir.