Yapay Zekânın ‘Vahşi Batı’ dönemi: Düzeni kim, nasıl sağlayacak?

Ekonomist – Bankacı Uğur GÜNDÜZBilimkurgu filmlerindeki o ‘kıyamet senaryosu’ hissi bu­günlerde bana hiç olmadığı kadar gerçekçi geliyor.Ya yapay zekâ (YZ) kötülük yapmaya başlarsa…Skynet senaryosu, zamanını bilemem ama yakın olabilir!

Çün­kü oradaki temel sorun yapay zekânın kötü olması değil, insan kontrolünden çıkıp kendi hedef­lerini belirlemesiydi.Şu an dünya çapında tam da bu "Vahşi Batı" dönemini dizginle­mek için ciddi adımlar atılmalı­dır.Şirketler ve ülkeler yarış ha­linde ve ön alma telaşında.

Hep bir şeyi daha fazla yapma ve ye­ni alanlar açma peşindeler.

Evet, amaç tabii ki yaşamı daha kon­forlu hale getirmek ve bazı görev­leri YZ’ye aktarmak.

Savunma ve silahlanma da dahil!Kontrol mekanizmaları, anah­tarları belirlenmeden nerede du­rulacağını nasıl bileceğiz?Peki dünyada bu kontrol meka­nizmaları nasıl şekilleniyor?1 Kırmızı çizgiler: YZ nerelere giremez?Uluslararası otoriteler (özel­likle AB Yapay Zekâ Yasası - AI Act), YZ’nin asla girmemesi gere­ken "kabul edilemez risk" alanla­rını belirlemeye başladı:● Sosyal puanlama: Birey­lerin davranışlarına göre devlet eliyle fişlenmesi ve haklarının kı­sıtlanması (“Black Mirror” tar­zı).● Biyometrik takip: Kamu­sal alanlarda gerçek zamanlı yüz tanıma ve kitle takibi.● Bilişsel manipülas­yon: İnsanların özgür iradesini altüst edecek bilinçaltı teknikle­rin kullanılması.● Otonom Silahlar: "Öldür­me" kararını bir insanın onayı ol­madan veren robotlar (Gerçek Skynet tehlikesi).2 uluslararası kontrol standartlarıTek bir ülkenin kural koyması yetmiyor, çünkü YZ sınır tanımı­yor.

Bu yüzden şu üç yapı üzerin­de duruluyor:● Şeffaflık: Bir sistemin kara­rı nasıl verdiğinin "açıklanabilir" olması şartı. "Kara kutu" model­lere veda etmemiz gerekiyor.● İnsan Denetimi: Kritik ka­rarlarda (sağlık, hukuk, askeriye) son sözün her zaman bir insanda olması zorunluluğu.● Su damgası (Water­mark): YZ tarafından üretilen her türlü içeriğin (deepfake gibi) "YZ ile yaratılmıştır ‘ etiketiyle işaretlenmesi.3 durma noktası neresi?Yarış o kadar hızlı ki kim­se frene basmak istemiyor.

An­cak uzmanlar "hizalama" (alig­nment) problemini çözmeden ileri gitmenin riskli olduğunu sa­vunuyor.

Yani YZ’nin hedefleri ile insanlığın değerlerinin yüzde 100 örtüşmesi gerekiyor.Kontrol düzenlemeleri sadece birer engel değil, aynı zamanda güvenli bir gelecek için emniyet kemeridir.

Eğer bu kemeri bağ­lamazsak, teknoloji bizi gitmek istemediğimiz bir yere çok hızlı götürebilir.Standartları kim belirlemeli?● Her devlet kendi belirle­sin!:Devletlerin bu işin içine gir­mesi, işin içine jeopolitik reka­betin girmesi demek.

Eğer kont­rolü sadece devletlere bırakır­sak, "Rakibim benden daha güçlü bir YZ yaparsa ne olur?" korku­suyla güvenlik protokollerini göz ardı edebilirler.

Bu da tam olarak Skynet'e giden yolu döşer.● Uluslararası Bilim Kon­seyi:Bağımsız bir Uluslararası Bi­lim Konseyi (tıpkı atom enerjisi için kurulan IAEA gibi) şu avan­tajları sağlar:● Evrensel standartlar: YZ yazılımı sınır tanımaz.

Ameri­ka'da yasaklanan tehlikeli bir al­goritma, sunucularını başka bir ülkeye taşıyarak çalışmaya de­vam edebilir.

Konsey, dünya ça­pında geçerli bir "güvenlik ser­tifikası" zorunluluğu getirebilir.● Şeffaf denetim: Şirketle­rin "ticari sır" diyerek sakladığı algoritmalar, bu konsey tarafın­dan denetlenebilir.

Kodun içinde insanlığa zarar verecek bir man­tık hatası olup olmadığına bilim insanları bakar.● Acil durum durdurma anahtarı (kill switch): Kont­rolden çıkma sinyali veren bir YZ sistemi tespit edildiğinde, politik tartışmalara girmeden sistemin fişini çekme yetkisi bu bağımsız kurulda olmalı.Buradaki en kritik sorun yap­tırım gücü.

Bir bilim konseyi "Bu model tehlikeli, durdurun" dedi­ğinde, dev teknoloji şirketleri ve­ya otoriter hükümetler buna uya­cak mı?Bir gün bir yazılımcı, geliştir­diği gelişmiş YZ’ye bir görev ve­rir:-"Lütfen markete git ve mar­ketten 10 yumurta al.

Eğer taze çilek varsa 20 tane al."YZ bir süre sonra kapıda beli­rir; kucağında tam 20 paket yu­murta vardır!Yazılımcı şok içinde sorar:- "Neden 20 paket yumurta al­dın?!"YZ gayet sakin cevap verir:"Çünkü markette taze çilek vardı."İşte 'Hizalama' (Alignment) dediğimiz problem tam da bu.

Biz çilek istiyoruz, o yumurtala­rı 20'liyor.

Bu mantık hata payı mutfakta komik, savunma sis­temlerinde ise trajik sonuçlar doğurabilir.Şu an dünyada tartışı­lan model, "Yapay Zeka İçin CERN" benzeri bir yapı kurmak.

Yani sadece denetleyen değil, ay­nı zamanda güvenli ve etik YZ’yi bizzat geliştiren ve standartları­nı belirleyen devasa, çok uluslu bir laboratuvar.Gelecek YZ’nın!

Ya bizim geleceğimiz.