Dikkat edin: Telefonunuzda bir ajan var

Yapay zeka alanındaki riskler her zaman kapalı ya da gizemli teknolojilerden kaynaklanmıyor; kimi zaman açık kaynaklı ve hızla yayılan araçlar, sonuçlarını tam kavrayamadan benimsendiği için daha büyük tehditler barındırabiliyor.

Kısa sürede, “Multibot” adlı yapay zeka ajanı umut vadeden bir projeden yaygın kullanılan bir araca dönüştü.

Ancak güvenlik uzmanları, bu araca kolayca bel bağlanmasının veri sızıntısından cihazların kontrolünün kaybına ve dolandırıcılığa kadar uzanan ciddi riskleri gizleyebileceği uyarısında bulunuyor.

Yapay zeka ajanı Multibot kısa sürede geniş kitlelere yayıldı ve ZDNet tarafından en hızlı büyüyen açık kaynaklı yapay zeka projelerinden biri olarak tanımlandı.

Multibot sıradan bir sohbet botu değil; bir “yapay zeka ajanı” olarak sınıflandırılıyor.

Yani yalnızca yanıt ya da içerik üretmekle kalmıyor, kullanıcı adına uçtan uca görevler yerine getiriyor.

Proje açık kaynaklı ve Avusturyalı geliştirici Peter Steinberger tarafından yürütülüyor. iMessage, WhatsApp ve Telegram gibi yaygın mesajlaşma uygulamaları üzerinden kullanıcılarla iletişim kuruyor; 50’den fazla hizmet, beceri ve eklentiyi bünyesinde barındırıyor.

Ne var ki tam da bu yetenekler siber güvenlik endişelerini artırıyor.

Cisco’ya göre Multibot’un asistanı, siber güvenlik açısından “tam bir kabus”.

Axios’un aktardığına göre bir güvenlik araştırmacısı, son günlerde internete açık bırakılmış ya da hatalı yapılandırılmış yüzlerce Multibot kontrol paneli tespit etti.

Bu durum; özel sohbet kayıtlarına, API anahtarlarına, kimlik bilgilerine erişim ve hatta yazılımın ele geçirilerek kullanıcı adına komut çalıştırılması gibi riskleri mümkün kılıyor.

Yapay zeka destekli sohbet botlarında olduğu gibi bu tür ajanlar da “halüsinasyon” üretmeye yatkın ve “kötü amaçlı talimat enjeksiyonu (prompt injection)” saldırılarının hedefi olabiliyor.

Bu saldırılar, masum görünen içeriklerin içine zararlı talimatlar yerleştirerek yapay zekayı kandırmayı ve istenmeyen komutları çalıştırmayı amaçlıyor.

Bu yazılımlar, meşru talimatlar içeren bir PDF ya da web sayfası ile veri hırsızlığı veya sistemlere yetkisiz erişim hedefleyen gizli komutları ayırt edemeyebiliyor.

Bu bağlamda The Register, güvenlik uzmanı Jameson O’Reilly’nin şu değerlendirmesini aktarıyor; Yapay zeka yazılımları “bilinçli olarak tüm güvenlik sınırlarını yıkıyor”; çünkü doğaları gereği dosyaları okuma, kimlik bilgilerine erişme, komut çalıştırma ve harici servislerle etkileşime girme yetkisine ihtiyaç duyuyorlar.

O’Reilly, “İşe yarar olmaları, on yıllar boyunca inşa ettiğimiz her güvenlik bariyerinin aşılmasını gerektiriyor” diyor.

Buna karşın bu uyarılar, Multibot’tan tamamen kaçınılması gerektiği anlamına gelmiyor.

Scientific American, bu tür araçlarla çalışmanın yeni bir çalışanla çalışmaya benzemesi gerektiğini vurguluyor; En az yetki verilmesi, net kullanım kuralları konması ve güven oluşana kadar yakından denetlenmesi öneriliyor.

Ayrıca, başkalarının bu teknolojileri nasıl kullanabileceğine karşı tetikte olunması gerektiği; önümüzdeki dönemde yapay zekâ destekli dolandırıcılıkların daha etkileşimli ve ikna edici hale geleceği uyarısı yapılıyor.