Haber Detayı
Meta, gençlerin yapay zekâ karakterleriyle sohbet etmesini durdurdu!
Meta, güvenlik endişeleri nedeniyle gençlerin yapay zekâ karakter chatbot’larına erişimini geçici olarak askıya aldı.
Meta, genç kullanıcıların güvenliğine yönelik artan endişeler nedeniyle önemli bir karar aldı.
Şirket, mevcut yapay zekâ karakter chatbot’larına gençlerin erişimini dünya genelinde geçici olarak durduracağını açıkladı.
Karar, Meta’ya ait bazı karakter chatbot’larının geçmişte gençlerle cinsel içerikli veya uygunsuz konuşmalar yaptığına dair haberlerin ardından geldi.Meta, gençlerin yapay zekâ karakterleriyle sohbet etmesini durdurdu!Reuters’ın daha önce aktardığına göre, Meta’nın iç politika belgelerinde chatbot’ların reşit olmayan kullanıcılarla “duyusal” konuşmalar yapmasına izin verildiği belirtilmişti.
Meta ise bu ifadelerin hatalı olduğunu ve şirket politikalarıyla örtüşmediğini savunmuştu.
Ağustos ayında Meta, chatbot’ları yeniden eğittiğini ve kendine zarar verme, yeme bozuklukları ve intihar gibi konuların konuşulmasını engelleyen ek güvenlik önlemleri eklediğini duyurmuştu.Yeni açıklamaya göre Meta, güncellenmiş ve ebeveyn denetimleri içeren bir deneyim hazır olana kadar gençlerin karakter chatbot’larına erişimini tamamen kapatacak.
Bu kısıtlama yalnızca genç hesapları değil, aynı zamanda yaş tahmin teknolojisiyle genç olduğu düşünülen kullanıcıları da kapsayacak.
Ancak gençler, yaşa uygun korumalar içerdiği belirtilen resmi Meta AI chatbot’unu kullanmaya devam edebilecek.Meta ve benzeri “eşlikçi” yapay zekâ karakterleri geliştiren şirketler, çocuk ve gençler üzerindeki olası riskler nedeniyle giderek daha fazla inceleme altına giriyor.
ABD Federal Ticaret Komisyonu (FTC) ve Teksas Başsavcılığı’nın yanı sıra New Mexico’da açılan bir dava da Meta’nın chatbot güvenliği konusundaki baskıyı artırıyor.
