Araştırma: Yapay zeka, güvenilir tıbbi kaynaklardaki hataları da doğru sanıyor

Yeni bir araştırma, yapay zekanın sağlık alanında yanlış bilgilere karşı kırılganlığını ortaya koydu.

Nefes'ten Merve Arkan'ın haberine göre, The Lancet Digital Health dergisinde yayımlanan çalışmada, açık kaynaklı ve ticari olmak üzere 20 büyük dil modeli test edildi.

Araştırmacılar, yapay zekanın doktor notlarındaki hatalara, sosyal medya paylaşımlarındaki yanlış bilgilere kıyasla daha sık kandığını belirledi. “Mevcut yapay zeka sistemleri, teknik tıbbi dili açıkça yanlış olsa bile doğru kabul edebiliyor" Araştırmanın eş yürütücülerinden Dr.

Eyal Klang, “Mevcut yapay zeka sistemleri, teknik tıbbi dili açıkça yanlış olsa bile doğru kabul edebiliyor” dedi.

Klang’a göre yapay zeka için “bir bilginin doğruluğundan çok, nasıl yazıldığı” belirleyici oluyor.

Bir milyondan fazla kullanıcı sorusu ve talebine verilen yanıtların analizinde, yapay zeka modellerinin genel olarak yanlış bilgilerin yüzde 32’sini doğru kabul edip yaydığı saptandı.

Ancak yanlış bilgi, bir sağlık çalışanına ait gibi görünen resmi bir hastane notundan geldiğinde bu oran yaklaşık yüzde 47’ye yükseldi.

Araştırmacılar, yapay zekanın hekimler ve hastalar için büyük potansiyel taşıdığını ancak tıbbi iddiaları gerçek olarak sunmadan önce denetleyen yerleşik güvenlik mekanizmalarına ihtiyaç duyduğunu vurguladı.

Norveç’te iki üst düzey diplomat, Epstein ile bağlantıları iddiaları nedeniyle soruşturma altında!Dünya Filistin Dışişleri Bakanlığı: İsrail’in Batı Şeria kararları savaş suçu beyanıdırDünya