Fotoğraflarınızı karikatüre çevirmeyin: Kimliğinizi çalıyorlar

Son dönemde sosyal medya platformlarını kasıp kavuran yeni bir trend, yapay zeka kullanarak kişisel fotoğrafları eğlenceli karikatürlere dönüştürüyor.

Ancak bu trend, yalnızca yüz hatlarını taklit etmekle kalmıyor; aynı zamanda kullanıcının mesleğini tahmin ederek bunu mizahi bir sahne içinde görsel olarak sunuyor.

Arap Araştırma ve Çalışmalar Merkezi Yapay Zeka ve Siber Güvenlik Birimi Başkanı Dr.

Muhammed Mohsen Ramadan, yaptığı açıklamalarda, yüksek etkileşim ve yaygınlığa rağmen bu trendin ciddi teknik ve güvenlik riskleri barındırdığını söyledi.

Ramadan’a göre uygulamalar, gelişmiş yapay zeka modelleri kullanıyor.

Bunlar arasında; yüz hatlarını, yaşı, mimikleri ve kıyafetleri analiz eden bilgisayarlı görü modelleri, görüntüyü geçmiş verilerle ilişkilendiren derin öğrenme modelleri ve görüntü, metin ile kullanıcı davranışını birleştiren çoklu-modlu (multimodal) sistemler bulunuyor.

Risklerin başında fotoğrafların saklanması geliyor.

Zira bu görseller, işlem tamamlandıktan sonra hemen silinmiyor; geçici olarak depolanabiliyor, model eğitimi için kullanılabiliyor ya da belirsiz kullanım politikaları kapsamında üçüncü taraflarla paylaşılabiliyor.

Ayrıntılı algoritmik analiz Dr.

Ramadan, fotoğraf yüklemenin yalnızca karikatür üretmekle sınırlı olmadığını; görüntünün algoritmik olarak analiz edilerek kullanıcının mesleğine (doktor, mühendis, gazeteci, yazılımcı), yaşam tarzına, çalışma ortamına ve hatta dolaylı biçimde sosyal sınıfına işaret edebilecek özelliklerin çıkarıldığını belirtti.

Meslek tahmini konusuna değinen Ramadan, yapay zekanın mesleği “insani” biçimde bilmediğini; yüz hatları, mimikler, kıyafetler, arka plan ve meta veriler üzerinden istatistiksel bir tahmin yaptığını vurguladı.

Ayrıca görselin, sosyal medya hesaplarıyla eşleştirilerek kimlikle ilişkilendirilebildiğini söyledi.

Bu tahminlerin eğlenceli görünse de yanlış veya önyargılı olabileceğini belirten Ramadan, bunun bilinçli onay olmadan yapılan bir sınıflandırma anlamına geldiğine dikkat çekti. “Biyometrik veriler kalıcı risk taşır” Biyometrik veriler son derece hassas ve deepfake (derin sahtecilik), kimlik taklidi ve kalıcı dijital parmak izi oluşturmak için kullanılabilir.

Fotoğrafın sosyal medya hesaplarıyla ilişkilendirilmesi, yüzün isim ve dijital davranışla bağlanması anlamına geliyor.

Daha da önemlisi, görseller yapay zeka modellerini eğitmek için kullanıldığında, kullanıcı hesabını veya uygulamayı silse bile modelin içinde kalıcı olarak yer alabiliyor.

Kullanıcının, fotoğrafının akıbetini öğrenmesini sağlayan etkili bir mekanizma bulunmuyor. daha tehlikeli bir ihtimale de var; veri sızıntısı.

Buna göre, ayrıntılı yüz özellikleriyle bağlantılı gerçek fotoğraflar dolandırıcılık, şantaj veya sahtecilik amacıyla yeniden kullanılabilir ve bu veriler geri alınamaz hâle gelir.

Üstelik, her dijital veri tabanı siber saldırılara açık.