Haber Detayı
Google Gemini klonlanmaya çalışıldı: 100 bin komutla veri toplandı
Google, Gemini’nin bilgisini kopyalamaya yönelik bir girişim tespit ettiğini açıkladı. Şirkete göre saldırganlar farklı dillerde 100 binden fazla istem göndererek yanıt topladı ve daha ucuz bir kopya model eğitmeye çalıştı.
Yapay zekâ pazarında büyük modellerin maliyeti arttıkça daha kısa yoldan benzer sonuçlar üretme arayışı da büyüyor.
Bu noktada bazı ekipler, hazır bir modele çok sayıda soru sorup aldığı yanıtları veri gibi kullanmayı deniyor.
Son kullanıcıya açık sistemler için bu durum yeni bir güvenlik başlığı hâline geldi.
Google’ın paylaştığı örnek, ölçeğin ne kadar büyüyebileceğini gösteriyor.Bu yaklaşım sektörde genelde damıtma olarak biliniyor.
Mevcut bir modele binlerce istem veriliyor, gelen yanıtlar bir havuzda biriktiriliyor ve bu çiftler daha küçük bir modelin eğitimi için kullanılıyor.
Amaç, pahalı eğitim sürecine girmeden davranış biçimini taklit etmek.
Google, tespit edilen kampanyaların özellikle modelin akıl yürütme benzeri işleyişini hedeflediğini belirtiyor.Savunma ve tartışmaŞirket, 100 bin istemlik oturumu yakaladıktan sonra savunmalarını güncellediğini, ancak hangi önlemleri aldığına girmedi.
Benzer kopyalama yöntemleri sektörde daha önce de gündeme geldi ve farklı şirketler birbirini bu konuda suçladı.
Bu çizginin araştırma mı yoksa izinsiz kopyalama mı olduğu konusu ise izin, kullanım şartları ve hukuki yorumlara göre değişiyor.
