Sam Altman'dan Pentagon itirafı: Biz karışamıyoruz

OpenAI CEO’su Sam Altman, Pentagon’un OpenAI’nin yapay zeka ürünlerini askeri operasyonlarda nasıl kullandığına dair şirketin karar yetkisinin olmadığını kabul etti.

Altman, şirket içi toplantıda çalışanlara açık biçimde “operasyonel kararları siz vermezsiniz” mesajını verdi.

Bloomberg ve CNBC’nin aktardığına göre Altman, “Belki İran saldırısının iyi, Venezuela işgalinin kötü olduğunu düşünüyorsunuzdur.

Buna siz karar veremezsiniz” diyerek, çalışanların moral/etik itirazlarının askeri karar mekanizmasını değiştirmeyeceğini söyledi.Bu çıkış, ABD ordusunun yapay zekayı savaşta kullanmanın ve bu kullanımın etik sonuçları hakkında büyüyen tartışmaların ortasında geldi.Son haftalarda Pentagon’un yapay zeka şirketlerinden modellerdeki güvenlik bariyerlerini gevşetmesini istediği; böylece askeri uygulama alanının genişletilmesinin hedeflendiği haberleri peş peşe geldi.

İddialara göre yapay zeka destekli sistemler, hem Venezuela lideri Nicolás Maduro’nun esir alındığı operasyonda, hem de İran’a yönelik saldırıda hedefleme/planlama süreçlerinde devreye girdi.“PİŞMAN DEĞİLİM AMA ACELECİ DAVRANDIM”Wall Street Journal’ın haberine göre Altman, salı günü yapılan toplantıda anlaşmayı savunurken, imzadan pişman olmadığını; fakat duyuruyu acele ettikleri için OpenAI’nin “fırsatçı” bir görüntü verdiğini söyledi.

Altman’a göre doğru olduğuna inandığı bir kararı alıp bunun karşılığında kişisel olarak ezilmek ve saldırıya uğramak “acı verici”.TEPKİLERİN ARDINDAN “GÖZETİM” HAMLESİAnlaşma, Pentagon’un Anthropic’i tedarik zinciri riski olarak nitelendirdiği günlerde duyuruldu.

Anthropic, modelinin yurt içinde kitlesel gözetim ya da tam otonom silahlar için kullanılabileceği endişesiyle Pentagon’la anlaşmayı reddetmişti.

OpenAI tarafında ise hem kamuoyundan hem şirket içinden “Pentagon’a boyun eğildi” eleştirileri yükseldi.

OpenAI çalışanlarının bir kısmı, anlaşmada kitlesel gözetim ve tam otonom silahları açıkça yasaklayan net hükümler görmek istiyordu.WSJ’ye göre OpenAI, gelen tepkiler sonrası anlaşmayı revize ederek metne “yurt içi gözetim yasaktır” ifadesini açık biçimde ekledi.

Altman ise bir yandan “yasal çerçevede kalacağız” diyerek hasar kontrolü yaparken, diğer yandan asıl hedefinin “masada oturmak” olduğunu savundu: OpenAI’nin geliştirdiği teknolojinin hükümetler için “temel araç” haline geleceğini söyleyerek, bu alanda kararlar şekillenirken şirketin dışarıda kalmak istemediğini vurguladı.ANLAŞMAYI REDDEDEN ANTHROPIC CEPHESİNDE DURUMGerilim, rakip cephede daha da sertleşti.

Guardian’ın aktardığına göre Anthropic CEO’su Dario Amodei, Altman’ı şirket içi bir notta ağır ifadelerle hedef aldı; OpenAI’nin “etik çizgileri” aştığını ima eden çıkışlar yaptı ve Trump’la ilişkiler üzerinden OpenAI’ye yüklendi.

Mesele yalnızca “Pentagon anlaşması” olmaktan çoktan çıkmış durumda: Artık Silikon Vadisi’nde etik, güvenlik bariyerleri ve devletle çalışma sınırları tartışması yaşanıyorOdatv.com