Yapay zeka silah uzmanı arıyor

ABD merkezli yapay zeka şirketi Anthropic, yazılımlarının “felaket düzeyinde kötüye kullanımını” önlemek amacıyla kimyasal silahlar ve yüksek etkili patlayıcılar konusunda uzman bir isim arıyor.LinkedIn’de yayımlanan iş ilanına göre adayların, kimyasal silahlar ve patlayıcı savunması alanında en az beş yıl deneyime sahip olması gerekiyor.

Ayrıca 'kirli bomba' olarak bilinen radyolojik dağıtım cihazları hakkında bilgi de şart koşuluyor.Şirketin bu adımı, yapay zeka sistemlerinin kötü niyetli kişiler tarafından kimyasal ya da radyoaktif silah üretiminde kullanılabileceği endişesine dayanıyor.

Amaç ise bu risklere karşı geliştirilen güvenlik bariyerlerini güçlendirmek.Anthropic, söz konusu pozisyonun daha önce hassas alanlar için oluşturduğu görevlerle aynı kapsamda olduğunu belirtiyor.OPENAI'DAN DA BENZER HAMLE GELDİAnthropic bu yolda yalnız değil.

ChatGPT’nin geliştiricisi OpenAI da benzer şekilde “biyolojik ve kimyasal riskler” alanında çalışacak bir araştırmacı arıyor.Hatta OpenAI’nin bu pozisyon için 455 bin dolara kadar maaş teklif ettiği belirtiliyor; bu da risk yönetiminin artık yapay zeka şirketlerinde ayrı bir uzmanlık alanına dönüştüğünü gösteriyor.BÜYÜK RİSKAncak bu yaklaşım, teknoloji dünyasında yeni bir tartışmayı da beraberinde getirdi.

Yapay zekaya bu tür hassas bilgiler öğretilirse, “kullanmaması” söylense bile bu bilgiler sistemin içinde var olmaya devam ediyor.

Bu nedenle bazı araştırmacılar, güvenlik amacıyla atılan bu adımın aslında riski büyütebileceği uyarısında bulunuyor.Üstelik tartışma, ABD’nin İran ve Venezuela eksenli askeri operasyonları sırasında yapay zeka firmalarına daha fazla rol verilmesiyle daha da kritik hale gelmiş durumda.Anthropic’in bu hamlesi, ABD yönetimiyle yaşadığı gerilimle de örtüşüyor.Şirket, sistemlerinin otonom silahlarda ve kitlesel gözetimde kullanılmasına karşı çıktığı için Pentagon tarafından “tedarik zinciri riski” olarak sınıflandırıldı ve bu karara karşı dava açmıştı.

Kurucu ortak Dario Amodei de teknolojinin henüz bu tür askeri kullanım için yeterince güvenli olmadığını savunuyor.Odatv.com