Anonim kalmak isterken yapay zeka sizi ifşa edebilir

Yakın zaman önce yayınlanan bir araştırma makalesine göre yapay zekanın, diğer pek çok alternatif yola göre anonim hesapları ortaya çıkartabilme oranının daha yüksek olduğu tespit edildi.

Makaleye göre, yapay zekanın tespit ettiği anonimlerin başarılı bir şekilde ortaya çıkartılma oranı yüzde 68 oldu.

Kullanıcıyı doğru bir şekilde tanımlayan tahminlerin oranı ise yüzde 90'a kadar ulaştı.

Büyük dil modelleri (LLM’ler), sanal kimliklerin ardındaki maskeyi beklenenden daha kolay indirebiliyor.

Takma adların arkasındaki gerçek yüzleri ifşa etme kapasiteleri, araştırmacıların sandığından bile fazla oldu.

Burada birkaç kişisel ipucu yeterli oluyor.

Bir kullanıcıya ait binlerce satır yazı, o takma adın ardındaki gerçek kimliği sanki bir bulmaca gibi parça parça açığa çıkarabiliyor.

Tahmin etmekten öte, büyük modeller birimler arasındaki örtülü ilişkileri anlamlandırabiliyor.

Deneyler sırasında, anonimleştirilmiş veri kümeleriyle karşılaşıldığında dil modelleri — kelime kalıplarını sezgisel olarak ayrıştırıp — kişisel profillerle eşleştirme yapmayı başardı.

Bu sistem aynı zamanda geniş ölçekli olarak uygulanabiliyor.

Sadece birkaç yüz örnek, geniş kitlelerle eşleşme için yeterli veri sağlıyor.

Araştırmacılar, konuşmacıların gizliliğini korurken teknikleri test etmek için halka açık sosyal medya platformlarından çeşitli veri kümeleri topladılar.

Bunlardan biri, Hacker News ve LinkedIn profillerinden gönderiler ve ardından kullanıcı profillerinde görünen platformlar arası referanslar kullanarak bunları birbirine bağladı.

Daha sonra gönderilerden tüm tanımlayıcı referansları kaldırdılar ve bunlar üzerinde bir dil modeli çalıştırdılar.

İkinci bir veri kümesi, bireysel tercihler, öneriler ve işlem kayıtları gibi mikro kimliklerin Netflix tarafından yayınlanmasından elde edildi. 2008 tarihli bir araştırma makalesi, listenin kullanıcıları tanımlayabileceğini ve siyasi bağlantılarını ve diğer kişisel bilgilerini belirleyebileceğini gösterdi.

Son teknik ise kullanıcının Reddit geçmişini çözümledi. “Anonimlik sağlanmış” etiketini taşıyan bir metin, gerçekte ne kadar anonim kalabiliyor?

Cevap, sandığımızdan daha kırılgan olabilir.

Büyük modeller, kelime tercihleri ve tutarlılık desenleri üzerinden, kullanıcıların kimliklerine dair tahminleri şaşırtıcı yüksek doğrulukla öne sürebiliyorlar.

Bu yetenek, insan gözünden kaçabilecek biçimsel kırılmaları bile fark edebiliyor.

Ne kadar küçük gözükseler de karakteristik dil nüansları, algoritmaların radarına giriyor.

Araştırma ekibi, modellerin nasıl çalıştığını analiz ederken bazı temel eğilimlerin altını çizdi: Yanıltıcı veriler veya rastgelelik, saldırgan algoritmaların işini zorlaştırmıyor.

Daraltılmış bir dil evreni bile, doğru eşleşmeler için yeterli bilgi sunuyor.

Makalenin ortak yazarlarından Simon Lermen, ArsTechnica'ya yaptığı açıklamada ''yapay zeka ajanlarının daha önce anonimleşmiş olan bilgilerden kişinin tam kimliğine ulaşabileceğini bilmiyorduk'' dedi.

Bu yazılımların yetenekleri, sadece kimliği bulmakla sınırlı kalmayabilir.

Duygusal ton, alışkanlık ve iletişim kalıpları gibi daha derin özellikler üzerinde modelin sezgisel çözümleme gücü büyüyor.

Ne kadar zorlaştırırsanız zorlaştırın, modele bırakılan küçük izler, iz sürücüler için büyük kapılar açabiliyor.

Yapay zekanın bu yeteneği, doğru gözetim ve etik çerçeveler içinde kullanılırsa, siber güvenlik zafiyetlerini ortaya çıkarmak ya da kötü niyetli kişilerin anonim maskelerini düşürmek için de bir araç olabilir.

Sonuç olarak; takma adlar, eskisi kadar güçlü bir gizlilik kalkanı olmayabilir.

Büyük dil modelleri, sıradan dille yazılmış metinlerin ardındaki gerçek kişileri beklenenden daha çabuk çözümleyebilir.

Bu, hem teknolojinin gücünü hem de mahremiyetimizin kırılganlığını bir kez daha gösteriyor.