ChatGPT artık yaşı tahmin edecek: Çocuklar için daha sıkı içerik denetimi

OpenAI, ChatGPT için yeni bir güvenlik önlemini devreye alıyor.

Bu sistem, kullanıcının yaşını tahmin ederek 18 yaş altı olduğu düşünülen hesaplarda içerik denetimini otomatik olarak sıkılaştırıyor.

Şirketin açıklamasına göre yaş tahmini; kullanıcı davranışları ve hesap bilgileri gibi sinyallerin analiz edilmesiyle yapılıyor.

Eğer bir kullanıcı reşit değilse, cinsel içerik, şiddet ve hassas konulara yönelik daha katı filtreler devreye giriyor.Yanlışlıkla çocuk olarak sınıflandırılan yetişkin kullanıcılar ise OpenAI’nin kimlik doğrulama ortağı Persona üzerinden, selfie ile yapılan bir doğrulama süreci sayesinde yaşlarını teyit edebiliyor.OpenAI neden şimdi böyle bir adım atıyor?Yapay zekâ araçları, eğitimden günlük yaşama kadar pek çok alana politikalarla eş zamanlı ilerlemeden hızla yayıldı.

Bu durum özellikle çocuklar ve gençler açısından riskleri de beraberinde getirdi.

OpenAI, ChatGPT’nin zaman zaman ergenlere uygunsuz içerikler sunması ve yapay zekânın ruh sağlığı üzerindeki etkileri nedeniyle eleştirilerin odağında yer aldı.Yeni güvenlik önlemi, sektörde giderek yaygınlaşan “yaş güvencesi” yaklaşımının bir parçası olarak görülüyor.

Bu yöntem, platformların kullanıcıdan kimlik belgesi talep etmeden çocukları zararlı içeriklerden korumayı hedefliyor.Araştırmalar da sorunun boyutunu ortaya koyuyor.

Pew Research Center verilerine göre ABD’deki gençlerin yüzde 95’i akıllı telefona erişebiliyor ve neredeyse yarısı internete “neredeyse sürekli” bağlı olduğunu söylüyor.

Bu kadar yoğun çevrim içi varlık, otomatik güvenlik önlemlerini daha da kritik hale getiriyor.ChatGPT’de yaş tahmini sistemi nasıl çalışıyor?OpenAI’ye göre sistem; kullanıcının beyan ettiği yaş, hesabın ne kadar süredir aktif olduğu ve günün hangi saatlerinde kullanıldığı gibi mevcut verileri birlikte değerlendiriyor.

Şirket, bu sürecin rutin kullanımda yüz tanıma ya da biyometrik yaş analizi içermediğini özellikle vurguluyor.Ortaya çıkan sonuç kesin bir yaş tespiti değil, olasılığa dayalı bir değerlendirme.

Amaç, gerektiğinde çocuklara uygun içerik filtrelerini varsayılan olarak devreye almak.Bir hesap 18 yaş altı olarak işaretlendiğinde, mevcut güvenlik önlemleri daha muhafazakâr hale geliyor.

Cinsel ve şiddet içeren yanıtlar sınırlandırılıyor, sohbetler daha eğitici ve yaşa uygun bir çizgiye yönlendiriliyor.

Bu sistem, mevcut güvenlik katmanlarının yerine geçmekten çok onları güçlendirmeyi hedefliyor.Sistem yanlış tahmin yaparsa ne olacak?Her otomatik sınıflandırma sisteminde olduğu gibi, yaş tahmini de hatalara açık.

OpenAI, bu duruma karşı bir itiraz mekanizması sunuyor.

Yetişkin kullanıcılar, Persona üzerinden selfie ile doğrulama yaparak yanlış sınıflandırmayı düzeltebiliyor.Bu yöntem, tüm kullanıcılardan kimlik belgesi toplanmasının önüne geçerken ek bir adım gerektiriyor.

Ancak OpenAI, sistemin doğruluk oranı ya da yanlış pozitif-negatif sonuçlara dair henüz ayrıntılı veri paylaşmış değil.

Bu bilgiler, hem kullanıcı güveni hem de düzenleyici kurumlar açısından önemli olacak.Diğer taraftan, bazı çocukların sistem tarafından tespit edilememesi ihtimali de var.

Böyle durumlarda ChatGPT’nin genel içerik politikaları ve mevcut filtreleri devrede kalmaya devam edecek.

Yine de şirketin ilerleyen dönemde bağımsız denetimler ve ölçüm verileri paylaşması bekleniyor.Gizlilik ve yasal uyum tartışmalarıÇocuklara ait veriler, birçok ülkede daha sıkı yasal yükümlülüklere tabi.

ABD’de COPPA, 13 yaş altındaki kullanıcılar için özel korumalar öngörürken; Birleşik Krallık’taki Age Appropriate Design Code ve Avrupa Birliği’nin Dijital Hizmetler Yasası da çocukların çevrim içi güvenliğini merkeze alıyor.OpenAI’nin kimlik belgesi yerine bağlamsal sinyallere dayanan yaklaşımı, güvenlik ve gizlilik arasında denge kurmayı amaçlayan güncel rehberlerle örtüşüyor.

Ancak bu tür çıkarım sistemlerinin önyargı riski taşıdığı da biliniyor.

Akademik çalışmalar, yaş tahmini ve risk sınıflandırmalarının bazı demografik gruplarda daha hatalı sonuçlar üretebildiğini gösteriyor.Bu nedenle, eğitim verileri, önyargı testleri ve özellikle Persona üzerinden yapılan selfie doğrulamalarında verilerin nasıl saklandığına dair şeffaflık büyük önem taşıyor.Diğer platformlarla karşılaştırıldığında OpenAI nerede duruyor?Büyük teknoloji platformları benzer çözümlere yönelmiş durumda.

Instagram, video selfie ile yaş tahmini testleri yaparken; YouTube, ebeveynlere gençler için daha ayrıntılı denetim seçenekleri sunuyor.OpenAI’nin yaklaşımı ise sohbet tabanlı yapay zekâya özgü.

Erişimi tamamen kısıtlamak yerine, kullanıcının yaş ihtimaline göre yanıtları ve güvenlik önlemlerini gerçek zamanlı olarak ayarlıyor.Bundan sonra ne olacak?Aileler için bu özellik, çocukların yetişkinlere yönelik içeriklere maruz kalma riskini azaltabilir; ancak ebeveyn denetiminin yerini tutmuyor.

ChatGPT’yi kullanan kurumlar ve geliştiriciler açısından ise benzer yaş duyarlı önlemlerin API’ler üzerinden sunulup sunulmayacağı merak konusu.Özetle, OpenAI’nin yaş tahmini sistemi, çocuklar için daha güvenli varsayılan deneyimler oluşturma yolunda önemli bir adım.

Ancak bu yaklaşımın sektör standardı haline gelip gelmeyeceği; şeffaflık, denetlenebilirlik ve yetişkin kullanıcıları gereksiz yere kısıtlamadan gerçekten zararlı etkileşimleri azaltıp azaltamadığıyla belirlenecek.