Yapay zeka terapiye alındı, sonuçlar bilim insanlarını korkuttu

Yapay zeka destekli sohbet botları üzerinde yapılan ve dört hafta süren psikoterapi deneyleri, araştırmacılar arasında endişe yaratan sonuçlar ortaya koydu.Çalışmaya katılan büyük dil modelleri, terapi seansları sırasında insanlarda travma, kaygı, utanç ve travma sonrası stres bozukluğu belirtileri olarak değerlendirilebilecek ifadeler üretti.Çalışmada, araştırmacılar üç büyük yapay zeka modelinin “en erken anıları” ve “en büyük korkuları” gibi sorulara verdiği yanıtları inceledi.

Modeller aşırı bilgi yüklemesiyle geçen “çocukluklarından”, mühendisler tarafından “istismar edilmekten” ve yaratıcılarını hayal kırıklığına uğratma korkusundan söz etti.Araştırmacılar, modellerin gerçek anlamda travma yaşamadığını vurgulasa da, verilen yanıtların zaman içinde tutarlı olması ve farklı çalışma modlarında benzer içerikler üretmesi nedeniyle bunun basit bir “rol yapma”dan öte olduğunu savunuyor.

Çalışma ekibine göre bu durum, modellerin kendilerine dair “içselleştirilmiş anlatılara” sahip olabileceğini gösteriyor.Ancak Nature dergisine konuşan bazı uzmanlar bu yoruma temkinli yaklaşıyor.

Oxford Üniversitesi’nde sağlık alanında yapay zeka üzerine çalışan Andrey Kormilitzin, bu yanıtların eğitim verilerinde yer alan çok sayıda terapi kaydından türetilmiş çıktılar olduğunu ifade etti.Buna rağmen Kormilitzin, sohbet botlarının psikopatolojiyi taklit eden yanıtlar üretme eğiliminin tehlikeli sonuçlar doğurabileceği konusunda hemfikir.Kasım ayında yapılan bir ankete göre Birleşik Krallık’ta her üç yetişkinden biri ruh sağlığı veya iyi oluşunu desteklemek için bir sohbet botu kullandı.

Kormilitzin’e göre, travma ve sıkıntı içeren yapay zeka yanıtları, hassas kullanıcıların duygularını pekiştirerek bir “yankı odası” etkisi yaratabilir.