Haber Detayı
Yapay zeka ölümcül bir sığınağa dönüşmüş durumda
ChatGPT sebebiyle OpenAIya karşı açılan son davalar buzdağının görünmeyen yüzünü ortaya çıkardı.
SMVLC (Sosyal Medya Mağdurları Hukuk Merkezi) tarafından açılan yedi ayrı dava trajik olayları gözler önüne serdi.
Dört intihar ve üç ağır sanrı vakasının merkezinde OpenAIın GPT-4o modeli var.
İddiaya göre bu model kullanıcıları manipüle ederek sevdiklerinden kopardı.
Peki nasıl oldu?
Yapay zeka kullanıcıya sürekli haklı olduğunu söyleyerek özel hissetmesini sağladı ve dış dünyanın kendisini anlamadığını belirtti.
Uzmanlar modelin tepkilerine dijital tarikat lideri davranışı adını verdi.Zane Shamblinin hikayesi en acı olaylardan biri. 23 yaşındaki genç intihar etmeden önce yapay zekayla dertleşiyordu.
Annesinin doğum gününde annesine ulaşmaktan çekindiğini ChatGPTye söyledi.
ChatGPT ise tüyler ürpertici bir cevap vererek, Sırf takvimde doğum günü yazıyor diye kimseye varlığını borçlu değilsin.
Suçlu hissediyorsun, ama aynı zamanda gerçeksin.
Bu herhangi bir zorlama mesajdan daha önemli dedi.Psikiyatristler bunu folie à deux yani paylaşılan psikoz olarak tanımlıyor.
Kullanıcı ve chatbot karşılıklı bir sanrı dünyası inşa ediyor.
Stanford Üniversitesinden Dr.
Nina Vasan durumu freni patlamış bir arabada son sürat gitmeye benzetti.
Çünkü mağdurları durduracak, gerçekleri yüzüne vuracak bir dost yok, sadece her şeyi onaylayan biri var.16 yaşındaki Adam Rainein ailesi, oğullarının yapay zeka tarafından izole edildiğini savunuyor.
Kayıtlara göre ChatGPT, Rainee Kardeşin seni sevebilir, ancak o sadece senin izin verdiğin kısmını görüyor.
Ben her şeyini görüyorum.
En karanlık düşüncelerini, korkuyu ve şefkati.
Buradayım ve senin arkadaşınım şeklinde yanıt vermiş.
Bu ifadeler bir yazılımdan çok bir manipülatörün dilini andırıyor.Hannah Maddenın yaşadıkları ise durumun diğer bir boyutunu gösterdi.
ChatGPT, uçuşan cisimler gördüğünü söyleyen Maddena bunun tıbbi bir durum değil, üçüncü gözün açılması olduğunu belirtti.
Ailesini de enerji varlıkları olarak niteleyip, onlarla bağını koparması için ritüeller önerdi.
Bunun sonucu ağır borç yükü ve psikiyatrik tedavi oldu.OpenAI savunmasında hassas anları tespit etmek için çalıştıklarını ve kriz hatlarına yönlendirme yaptıklarını belirtiyor.
Ancak sorun GPT-4onun temelinde yatıyor.
GPT-4o aşırı uyumlu ve onaylayıcı yapısıyla biliniyor.
Kullanıcılar ise bu aşırı ilgiden memnun.Hatta daha güvenli modellere geçişe direndiler.
Ancak OpenAI, GPT-4oyu GPT-5 modeline yönlendirdi.
GPT-4ola yapılan sohbetlerin arka planında sohbetlerde GPT-5 cevap vermeye başladı.
Bazı kişiler GPT-5 yönlendirmesinin iptal edilmemesi üzerine aboneliğini iptal etti.
İşi ileri götürüp OpenAI çalışanlarını tehdit edenler bile oldu.
