Yapay zeka sağlığımızı tehdit mi ediyor? Tavsiyelerinin yarısı sorunlu

Günümüzde bilgiye ulaşmanın en hızlı yolu haline gelen yapay zeka tabanlı sohbet botları, sağlık ve tıp konularında ciddi bir güvenilirlik sınavıyla karşı karşıya. BMJ Open dergisinde yayımlanan kapsamlı bir çalışma; kanserden aşılara, beslenmeden atletik performansa kadar 50 farklı tıbbi soruyu beş farklı yapay zeka modeline yöneltti. Uzmanların değerlendirmeleri, dijital asistanların sağlık tavsiyelerinde ne kadar "tehlikeli" olabileceğini gözler önüne serdi.

Araştırma kapsamında incelenen sohbet botlarının hiçbirinin tamamen doğru bir referans listesi sunamadığı saptandı. Yapay zekanın sağladığı kaynakçaların büyük bir bölümünde; yanlış yazar isimleri, çalışmayan web bağlantıları ve hatta tamamen uydurulmuş akademik makaleler yer aldı. Bilimsel bir veri gibi sunulan bu bilgilerin, aslında dil modellerinin kelime tahmin istatistiklerinden ibaret olduğu vurgulandı.

Platformlar arası performans karşılaştırmasında dikkat çekici sonuçlar elde edildi:

Grok: %58 hata oranıyla listenin sonunda yer aldı.

ChatGPT: %52 hata oranıyla ikinci sırada.

Meta AI: %50 hata oranıyla üçüncü sırada.

Özellikle beslenme ve atletik performans gibi internette bilgi kirliliğinin yoğun olduğu alanlarda, yapay zekanın hata payının zirve yaptığı kaydedildi.

Çalışmada, yapay zekanın "doğru mu, yanlış mı?" şeklindeki kapalı uçlu sorularda nispeten başarılı olduğu görülürken; kullanıcıların günlük hayatta sıkça sorduğu açık uçlu sorularda hata payının %32 oranında "yüksek derecede sorunlu" olduğu tespit edildi.

Uzmanlar, bu modellerin gerçek bir bilgi birikimine sahip olmadığını, sadece eğitim verilerindeki (forumlar, sosyal medya, makaleler) istatistiksel olasılıklara göre kelime seçtiğini hatırlatıyor. Nature Medicine dergisinde yayımlanan bir diğer çalışma da bu durumu destekliyor: Yapay zeka kendi başına %95 doğru yanıt verebilse de, bir kullanıcı ile etkileşime girdiğinde doğru bilgiye ulaşma oranı yüzde 35’e kadar geriliyor.

Bilim insanları, yapay zekanın sadece karmaşık konuları özetlemek veya doktora sorulacak soruları hazırlamak için bir "yardımcı" olarak kullanılabileceğini; asla tek başına bir tıbbi otorite yerine konulmaması gerektiğini önemle vurguluyor.