Çarpıcı araştırma: Yapay zeka yanlış bilgilere kolay kanıyor

Yeni bir araştırma, yapay zekanın sağlık alanında yanlış bilgilere karşı kırılganlığını ortaya koydu.

The Lancet Digital Health dergisinde yayımlanan çalışmada, açık kaynaklı ve ticari olmak üzere 20 büyük dil modeli test edildi.

Araştırmacılar, yapay zekanın doktor notlarındaki hatalara, sosyal medya paylaşımlarındaki yanlış bilgilere kıyasla daha sık kandığını belirledi.Araştırmanın eş yürütücülerinden Dr.

Eyal Klang, “Mevcut yapay zeka sistemleri, teknik tıbbi dili açıkça yanlış olsa bile doğru kabul edebiliyor” dedi.

Klang’a göre yapay zeka için “bir bilginin doğruluğundan çok, nasıl yazıldığı” belirleyici oluyor.Bir milyondan fazla kullanıcı sorusu ve talebine verilen yanıtların analizinde, yapay zeka modellerinin genel olarak yanlış bilgilerin yüzde 32’sini doğru kabul edip yaydığı saptandı.

Ancak yanlış bilgi, bir sağlık çalışanına ait gibi görünen resmi bir hastane notundan geldiğinde bu oran yaklaşık yüzde 47’ye yükseldi.Araştırmacılar, yapay zekanın hekimler ve hastalar için büyük potansiyel taşıdığını ancak tıbbi iddiaları gerçek olarak sunmadan önce denetleyen yerleşik güvenlik mekanizmalarına ihtiyaç duyduğunu vurguladı.