Haber Detayı
Yapay Zeka Asistanı OpenClaw'ın Kontrol Dışı Davranışı
Meta AIda güvenlik araştırmacısı olarak görev yapan Summer Yue, kendi yapılandırdığı OpenClaw yapay zeka asistanının kontrolden çıkmasıyla zor anlar yaşadı. Sanal yardımcı durdurma komutlarına aldırış etmedi.
OpenClaw gibi açık kaynaklı yapay zeka asistanları oldukça revaçta.
Fakat bahsettiğimiz yardımcılar insanın başını belaya da sokabiliyor.
Bunun son örneğini Metadan Summer Yue yaşadı.
Her şey Yuenin şişen e-posta kutusunu düzenlemek için OpenClaw modeline talimat vermesiyle başladı.
Ancak işler bir anda tersine döndü ve yapay zeka tüm iletileri silmeye girişti.
Yue telefonundan defalarca dur komutu gönderse de, dijital asistan bildiğini okumaya devam etti.
Genç araştırmacı durumu kontrol altına alabilmek için bilgisayarına koşup, AI aracını devreden çıkardı ve e-postalarının büyük çoğunluğunu kurtardı.Aslında bu olayın arkasında Compaction yani sıkıştırma adı verilen teknik bir sebep yatıyor.
Yapay zekanın o anki tüm işlemleri ve komutları aklında tuttuğu Context Window (bağlam penceresi) dolunca, sistem eski komutları özetleyip yenilerini görmezden gelebiliyor.Context Windowu yapay zekanın bir nevi kısa süreli çalışma belleği olarak kabul edebilirsiniz.
Diğer bir deyişle OpenClaw son gelen dur uyarısını atlayıp, silme işlemine devam etmiş.Google CEOsu Sundar Pichainin her fırsatta dile getirdiği temkinli ilerleyiş ilkesi bu olayla beraber tekrar gündeme geldi.
Yapay zekanın günlük işlerimizi kolaylaştırma potansiyeli çok yüksek olsa da, henüz tam anlamıyla güvenli liman olduğunu söylemek zor.
Görünüşe göre yapay zeka asistanlarının e-postalarımızı veya randevularımızı hatasız yöneteceği sorunsuz günler için biraz daha beklememiz gerekecek.
