Haber Detayı
Yapay zeka sığ içeriklerle zarar gördü
ABDdeki Texas A&M, Texas Austin ve Purdue Üniversitesi araştırmacıları, ChatGPT benzeri büyük dil modellerini sosyal medyadaki önemsiz içeriklerle besleyerek dikkat çekici bir deney yaptı.
Sonuçlar yapay zekanın sürekli yüzeysel veriye maruz kaldığında bilişsel performansının düştüğünü gösterdi.Araştırmada Llama3 8B, Qwen2.5 7B/0.5B ve Qwen3 4B modelleri test edildi.
Bu sistemlere viral paylaşımlar ve analizden yoksun basit metinlerden oluşan iki tür veri yüklendi.Modellerin tamamında mantıksal akıl yürütme yeteneğinin azaldığı, bağlamı anlamada zorlandığı ve güvenlik standartlarını göz ardı etmeye başladığı gözlemlendi.Metanın Llama3 modeli bu süreçten en çok etkilenen sistem oldu.
Daha da dikkat çekici olan bir nokta var, kişilik değişimi bile gerçekleşti.
Llama3te narsisizm ve agresif eğilimler artarken uyumluluk azaldı.Çalışmayı yürüten uzmanlara göre modellerdeki bilişsel düşüş eğitimle düzeltilemiyor.
Beyin çürümesi geçiren bir model, yeniden eğitilse bile eski seviyesine tam olarak dönemiyor.Bu durum kalıcı deformasyon olarak tanımlanıyor.
Araştırmacılar bu riskin gelecekte önlenebilmesi için yapay zeka üzerinde düzenli bilişsel kontroller yapılması gerektiğini vurguladı.
