Yapay Zekaya Bunları Sakın Sormayın! Bilim İnsanlarından 'Ölümcül' Uyarısı
Alman araştırmacılar, yapay zeka destekli chatbot’ların tıbbi tavsiye verirken tehlikeli hatalar yapabileceğini ve bu durumun hastaların sağlıklarını riske atabileceğini ortaya koydu.
Kaynak: Daily Mail
Son yapılan bir araştırma, internetteki yapay zeka destekli arama motorları ve chatbot'ların, tıbbi tavsiye verirken ciddi hatalar yapabileceğini gösterdi. Almanya'daki Erlangen-Nürnberg Üniversitesi’nden bilim insanları, yapay zeka destekli chatbot'ların yaygın reçeteli ilaçlarla ilgili sorulara verdikleri cevapların beşte birinden fazlasının "ölüme veya ciddi zarara" yol açabileceğini tespit etti.
YAZILARDA GÜVENİLİRLİK SORUNU
Araştırmada, 50 en çok reçete edilen ilaç için en sık sorulan 10 hasta sorusu belirlendi. Bu sorular, ilaçların yan etkileri, kullanım talimatları ve kontrendikasyonlar (ilacın neden alınmaması gerektiği) gibi konuları kapsıyordu.
BİNG COPILOT ARACI TUTARSIZ CEVAPLAR VERDİ
Microsoft'un yapay zeka destekli sohbet robotu Bing Copilot kullanılarak yapılan araştırmada, 500 cevap klinik eczacılar ve doktorlar tarafından verilen yanıtlarla karşılaştırıldı. Cevapların dörtte birinden fazlasının (yüzde 26) referans verilerle eşleşmediği ve yüzde 3'ünden fazlasının tamamen tutarsız olduğu belirlendi. Detaylı analizde ise, cevapların yüzde 42'sinin orta veya hafif zarara yol açabileceği, yüzde 22'sinin ise ölüme veya ciddi zarara neden olabileceği görüldü.
ANLAMAK ZOR
Daily Mail'de yer alan habere göre araştırmacılar, chatbotların cevaplarının genellikle anlaşılmasının zor olduğunu ve çoğu zaman üniversite düzeyinde bir eğitim gerektirdiğini belirtti. BMJ Quality and Safety dergisindeki araştırmacılar, "Chatbot cevapları genellikle bilgi eksikliği veya yanlışlıklar içeriyordu ve bu durum hasta ve ilaç güvenliğini tehdit ediyordu" şeklinde ifade etti. Hastaların sağlık uzmanlarına danışmalarının önemine dikkat çektiler.
COPILOT'UN HATA NEDENİ
Microsoft sözcüsü, Copilot'un bilgileri birden fazla kaynaktan özetleyerek sunduğunu belirtti. Kullanıcıların geleneksel aramalarda olduğu gibi daha fazla araştırma yapmalarını teşvik ettiklerini vurguladı ve "Tıbbi tavsiyelerle ilgili sorular için her zaman bir sağlık uzmanına danışılmasını tavsiye ediyoruz" dedi.
Araştırmanın bazı sınırlamaları olduğunu da kabul eden bilim insanları, hastaların chatbotlardan daha fazla net bilgi talep edebileceklerini belirtti. Yine de, yapay zeka destekli arama motorları ve chatbot'ların tıbbi tavsiye verirken dikkatli kullanılmaları gerektiği konusunda uyarıda bulundular.