Haber Detayı
Yapay zekada "kırmızı çizgi" kavgası, iki devi birbirine düşürdü
ABD Savunma Bakanlığı ile yapılan gizemli anlaşma, iki teknoloji devini karşı karşıya getirdi. Anthropic CEO'su Amodei, rakibi Sam Altman'ı "güvenlik tiyatrosu" yapmakla suçlarken, askeri teknolojilerde yapay zekanın kullanımı hakkındaki tartışmalar etik bir savaşa dönüşmüş durumda.
Yapay zeka dünyasının iki devi Anthropic ve OpenAI arasındaki rekabet, etik sınırlar ve askeri anlaşmalar nedeniyle hiç olmadığı kadar sertleşmiş durumda.
Anthropic’in CEO’su Dario Amodei, rakibi Sam Altman’ı ve OpenAI’ın ABD Savunma Bakanlığı ile imzaladığı son sözleşmeyi ağır sözlerle eleştirdi.Amodei, basına sızan kurum içi notunda OpenAI’ın orduyla kurduğu bu bağı "güvenlik tiyatrosu" olarak tanımladı.
İki şirket arasındaki bu krizin merkezinde, yapay zekanın kitlesel gözetleme ve otonom silah sistemlerinde kullanılıp kullanılamayacağı sorusu duruyor.Geçtiğimiz hafta Anthropic, ABD Savunma Bakanlığı’nın teknolojilerine "sınırsız erişim" talebini reddederek masadan kalktı.
Orduyla halihazırda 200 milyon dolarlık bir iş birliği bulunan şirket; teknolojisinin kitlesel gözetleme faaliyetlerinde veya otonom silahlarda kullanılmayacağına dair kesin bir güvence istiyor.
Ancak bakanlık bu şartları kabul etmek yerine rotayı OpenAI’a kırdı.
Sam Altman, Anthropic’in hassas olduğu kırmızı çizgilerin kendi sözleşmelerinde de korunduğunu iddia etse de Amodei bu açıklamaları gerçeği yansıtmayan bir "uzlaşmacı" portresi çizme çabası olarak görüyor."Yasal kullanım" tanımı tartışma yaratıyorTartışmanın hukuki boyutu aslında kelime oyunlarında gizli.
Anthropic, bakanlığın yapay zekayı "her türlü yasal amaç" için kullanma ısrarına karşı çıkıyor.
Şirket, bugün yasal olmayan bir uygulamanın yarın değişen yasalarla meşru hale gelmesinden endişe duyduğunu açıkça söylemiş durumda.
OpenAI ise yayınladığı blog yazısında, sözleşmelerinin tüm yasal amaçları kapsadığını ancak kitlesel gözetlemenin zaten yasa dışı kabul edildiğini belirtti.
Eleştirmenler bu yaklaşımın riskli olduğunu, çünkü "yasal" tanımının siyasi rüzgarlara göre esneyebileceğini hatırlatıyor.Bu etik kavga, kullanıcı tarafında da büyük bir karşılık buldu.
OpenAI’ın orduyla el sıkışmasının ardından ChatGPT uygulamasının silinme oranları %295 gibi devasa bir artış gösterdi.
Amodei bu durumu, halkın OpenAI’ın hamlelerini şüpheli bulduğunun ve Anthropic’i bu süreçte daha ilkeli gördüğünün bir kanıtı olarak yorumluyor.
Anthropic’in uygulama mağazalarında ikinci sıraya yerleşmesi de bu algının ticari bir başarıya dönüştüğünü kanıtlar nitelikte.Amodei’nin asıl endişesi, rakip şirketin bu durumu bir halkla ilişkiler başarısı gibi sunarak kendi çalışanlarını ikna etmeye çalışması.
OpenAI’ın "her şey kontrol altında" imajı çizerek bir algı yönetimi yaptığını düşünen Amodei, gerçek güvenliğin göz boyayan anlaşmalarla değil, suistimalleri engelleyecek katı kurallarla sağlanacağını savunuyor.
