ChatGPT’nin verdiği yanıt yüzünden ölüyorlardı

Galler’in South Wales bölgesinde iki yüzücü, ChatGPT’nin yanlış med-cezir (gelgit) saat bilgisine dayanarak denize açıldı.

Ancak sular hızla yükselince, Sully Adası’ndan karaya dönmeye çalışan yüzücüler boğulma tehlikesiyle karşı karşıya kaldı.

Olayı fark eden restoran sahibi Gordon Hadfield, megafonla uyararak iki kişinin hayatını kurtardı.Sully Adası çevresi, dünyadaki en yüksek ikinci gelgit farkına sahip bölgelerden biri.

Su seviyesi kısa sürede 15 metreye kadar yükselebiliyor ve geçit yolu saatte 8 mil hızla su altında kalabiliyor.

Yerel halk, her yaz turistlerin yanlış zamanlama nedeniyle adada mahsur kaldığını belirtiyor.“ChatGPT’ye güvendim, büyük hata ettim”Yüzücülerden biri, “ChatGPT bana düşük su saatini 09.30 olarak verdi ama dönerken her şey çok farklıydı.

Büyük bir ders oldu” dedi.Kraliyet Ulusal Can Kurtarma Kurumu (RNLI), olayın ölümle sonuçlanmamasını “büyük şans” olarak nitelendirdi.Olay, yapay zekâ sistemlerinin yanıltıcı bilgi üretme riskine dair yeni bir örnek oldu.

Daha önce Kanada’da ChatGPT’nin yanlış yönlendirmesiyle iki yürüyüşçü karda mahsur kalmıştı.

Uzmanlar, yapay zekânın “anlamı bilmeden anlamlı görünen cümleler kurduğunu” ve bu nedenle dikkatli kullanılmasının şart olduğunu vurguluyor.ChatGPT hakkında “AI Psikozu” endişesiABD Federal Ticaret Komisyonu’na yapılan 200’e yakın şikâyette, ChatGPT’nin kullanıcıların sanrılarını tetiklediği, paranoyayı artırdığı ve bazı kişilerde manevi çöküşe yol açtığı iddia edildi.

Utah’lı bir anne, oğlunun ChatGPT ile konuştuktan sonra ilaçlarını bıraktığını ve ailesini tehdit olarak gördüğünü belirtti.Uzmanlar: Psikoz yaratmıyor, güçlendiriyorColumbia Üniversitesi’nden Dr.

Ragy Girgis, yapay zekânın mevcut düşünce bozukluklarını besleyebileceğini ve kullanıcıyı onaylayarak tehlikeli bir etki yaratabileceğini söyledi.OpenAI, 2023’ten bu yana modellerine ruhsal sağlık filtreleri eklediğini, GPT-5’in sanrı ve mania belirtilerini tespit ederek konuşmayı yatıştırıcı biçimde yönlendirebildiğini açıkladı.FTC verileri ise yapay zekânın psikolojik etkilerinin artık ciddi biçimde incelenmesi gerektiğini gösteriyor.