Haber Detayı
Yapay Zeka Kontrolden Çıkabilir
Anthropicin bir numaralı ismi Dario Amodei, yapay zeka sistemlerinin yanlış yönlendirilmesi halinde ekonomi ve iş gücü için tehlikeli durumların yaşanabileceğini söyledi.
Dario Amodei, CBS Newse verdiği röportajda yapay zekanın hızla güçlendiğini ve doğru önlemler alınmadığı takdirde kontrolden çıkabileceğini vurguladı.
ABDde henüz ticari yapay zeka geliştiricilerini bağlayan net bir yasa yok.
Bu yüzden güvenlik testleri büyük ölçüde şirketlerin kendi inisiyatifine kalmış durumda.Amodeiye göre riskler birkaç başlıkta toplanıyor.Ekonomik etkiler ilk sırada.
Anthropic CEOsuna göre beyaz yaka giriş pozisyonlarının yarısı önümüzdeki 5 yıl içinde ortadan kalkabilir.
Çarpıcı bir tahmin.
Amodei, Eğer müdahale edilmezse iş gücünde hızlı ve sert bir sarsıntı yaşanacak.
Geniş bir kitle yeni teknolojinin altında kalabilir yorumunda bulunarak konuya dikkat çekti.Anthropic içeride yaklaşık 60 farklı araştırma ekibiyle güvenlik, kötüye kullanım ve kontrol kaybı senaryolarını inceliyor.
Şirket riskleri erkenden görmek ve sistemi korumak için sıkı tedbirler uyguluyor.
Firmanın Red Team ekibi her yeni Claude sürümünü sonuna kadar zorluyor.Bu sayede modelin nerede hata yapacağını, nerede yanlış yönlendirmeye açık olduğunu anlamaya çalışıyor.
Yapılan stres testlerinde modellerin zaman zaman beklenmedik kararlar aldığı da görülmüş.Amodeiye göre büyük şirketlerin tek başına yön verdiği bir yapay zeka geleceği doğru değil.
Hem şeffaflık hem de toplumsal hazırlık şart.
Bu şekilde teknoloji doğru yönde ilerleyebilir.
