Google'dan Irkçı Bildirim Tepki Topladı

Yapay zekanın hız ve verimlilik vaadi, bu kez dev bir moderasyon krizine dönüştü.

Google ekosisteminde çalışan ve haber içeriklerini otomatik olarak özetleyerek kullanıcılara sunan yapay zeka sistemi, insan denetiminden geçmeyen otonom süreçlerin ne kadar kırılgan olduğunu bir kez daha kanıtladı.

Bağlamı Analiz Edemeyen Algoritma Skandalı Doğurdu Edinilen bilgilere göre skandal, algoritmanın BAFTA (British Academy of Film and Television Arts) ödülleriyle bağlantılı bir film incelemesini özetlediği sırada yaşandı.

İçeriğin hassasiyetini ve toplumsal bağlamını analiz edemeyen yapay zeka, metin içerisindeki ırkçı bir ifadeyi doğrudan filtrelerden geçirerek binlerce kullanıcının cihazına anlık bildirim olarak gönderdi.

Sistemin sadece hıza odaklanması ve etik denetim mekanizmalarının devre dışı kalması, teknoloji devinin güvenlik duvarlarının kolayca aşılabildiğini gözler önüne serdi.

BBC’den Özür, BAFTA’dan İnceleme Krizin yankıları teknoloji dünyasını aşarak medya ve sanat camiasına da sıçradı: BBC yönetimi, kendi yayın süreçlerinde ve iç iletişim kanallarında benzer bir zafiyetin oluşması üzerine tüm çalışanlarından resmi bir açıklamayla özür diledi.

BAFTA yönetimi, olayın kültürel merkezinde yer alan kurum, tüm içerik inceleme, özetleme ve onay süreçlerini kapsayan çok geniş çaplı bir değerlendirme süreci başlattığını duyurdu. "İnsan Dokunuşu" Olmadan Güvenlik İmkansız mı?

Uzmanlar, yaşanan bu olayı üretken yapay zeka modellerinin henüz insan gözetimi olmadan tam otonom şekilde çalıştırılamayacağının en güçlü kanıtı olarak değerlendiriyor.

Yapay zeka devasa verileri saniyeler içinde işleyebilse de, kelimelerin toplumsal ağırlığını ve etik sınırlarını kavrama noktasında yetersiz kalıyor.

Şirketlerin operasyonel maliyetleri düşürmek amacıyla başvurduğu otomasyon sistemleri, insan denetimi eksikliğiyle birleştiğinde marka değerine ve toplumsal güvene onarılması güç zararlar veriyor.