ChatGPT Health, doktorun "sağlıklısın" dediği kullanıcıyı kalp hastası zannetti: Verileri yanlış yorumluyor

OpenAI'ın geliştirdiği ChatGPT Health platformu, Apple Health ve diğer veri sağlayıcıları ile uyumlu şekilde geçtiğimiz günlerde kullanıma sunuldu.

Washington Post yazarı Geoffrey A.

Fowler, yıllardır bileğinde taşıdığı Apple Watch akıllı saatinin topladığı verilerin ne anlama geldiğini öğrenmek için sisteme erişim izni verdi.

Ancak karşılaştığı sonuçlar, yapay zekanın sağlık analizlerinde güvenilir olmadığını gözler önüne serdi.CHATGPT, KALP SAĞLIĞI KONUSUNDA YANLIŞ BİLGİ VERDİFowler, Apple Health uygulamasında depolanan 29 milyon adım ve 6 milyon kalp atışı verisini ChatGPT Health ile paylaştı.

Sohbet botundan kalp sağlığını derecelendirmesini isteyen yazar, aldığı cevapla büyük bir şok yaşadı.Yapay zeka, Fowler'ın kalp sağlığına "F" notunu yani en düşük dereceyi verdi.

Bu sonucu gördükten sonra paniğe kapıldığını belirten Fowler, ChatGPT tarafından oluşturulan raporu kendi doktoruna gönderdi.

Doktorun yaptığı inceleme ise yapay zekanın tamamen yanıldığını ortaya koydu.Doktor, Fowler'ın kalp krizi riskinin çok düşük olduğunu, sigorta şirketinin yapay zekayı haksız çıkarmak için yapılacak ekstra bir kardiyo testini bile karşılamayacağını belirtti.VO2 MAX VE SENSÖR DEĞİŞİMLERİNİ YANLIŞ YORUMLADIWashington Post yazarının aktardığı bilgilere göre, ChatGPT Health'in verdiği düşük notun temelinde verilerin yanlış yorumlanması yatıyor.

Platform, olumsuz değerlendirmesinin büyük bir kısmını VO2 max (maksimum oksijen tüketimi) verilerine dayandırdı.Oysa normal şartlarda Apple, topladığı verilerin yalnızca birer tahmin olduğunu ve kesin veriler için ayrı tıbbi ekipmanlar gerektiğini açıkça belirtiyor.ChatGPT'nin hataları bununla da sınırlı kalmadı.

Fowler'ın yeni bir Apple Watch modeline geçtiği dönemde dinlenme kalp atış hızında görülen değişimleri de tamamen yanlış algıladı.

Sensör ve ölçüm araçlarındaki güncellemelerden kaynaklanan değişimleri ChatGPT "sağlık durumunda bir kötüleşme" olarak değerlendirdi.Sistemin güvenilirliğini test etmek isteyen Fowler, aynı soruyu tekrar tekrar sorduğunda ise daha şaşırtıcı bir tabloyla karşılaştı.

Kalp ömrüyle ilgili soruyu yinelediğinde notunun bir anda "C" seviyesine yükseldiğini gördü.

Sorgulamalar devam ettikçe yapay zekanın verdiği puanlar "F" ile "B" arasında gidip geldi.Sohbetler boyunca ChatGPT'nin kullanıcı hakkındaki kritik bilgileri unuttuğu da gözlemlendi.

Yazarın cinsiyetini, yaşını ve bazı güncel hayati bulgularını hatırlamakta zorlanan sistem, erişimi olmasına rağmen son kan tahlili sonuçlarını analizlerine dahil etmedi.3279000 -> WhatsApp paralı abonelik dönemini başlatıyor: Fiyat belli oldu