Yapay zekanın en büyük kör noktası: ChatGPT neden saati söyleyemiyor?

ChatGPT gibi büyük dil modelleri, bize süper yetenekli kişisel asistanlar olarak tanıtılıyor.

Ancak bu yapay zeka harikalarının bocaladığı pek çok basit görev arasında, akıllara durgunluk veren bir tanesi var: Saati doğru bir şekilde söyleyememek.

Kullanıcılar ChatGPT'ye saati sorduğunda, genellikle tutarsız yanıtlarla karşılaşıyor.

Bazen "Cihazınızın gerçek zamanlı saatine veya konumuna erişimim yok" cevabını veriyor, bazen de bir şehir adı istiyor ancak verdiği saat, doğru zamandan dakikalarca farklı çıkıyor.

Hatta bazen doğru saati verse bile, birkaç dakika sonra tekrar sorulduğunda yanılıyor.

Bu sorun, ChatGPT'nin piyasaya sürülmesinin üzerinden yıllar geçmesine rağmen sıklıkla dile getiriliyor ve kullanıcılar, "Üstün bilişsel yeteneklere sahip" bir model için bunun kötü bir imaj yarattığını düşünüyor.

Peki, neredeyse her cihazın kolayca yapabildiği bu görevi, modern yapay zekanın başaramamasının ardında yatan sebep ne?Akıllı telefon ve bilgisayarlar, içlerindeki minik çipler sayesinde zamanı doğru bir şekilde takip ediyor.

Ancak ChatGPT, tamamen farklı bir amaç için geliştirildi.

Edinburgh Üniversitesi'nden doğal dil işleme uzmanı Pasquale Minervini'nin belirttiğine göre, bu modeller varsayılan olarak kullanıcı sorgularını alıyor ve tamamen eğitim verilerine dayanarak tahminlerde bulunuyor.

Bu eğitim verileri, saatin kaç olduğu gibi sürekli güncellenen, gerçek zamanlı bilgileri içermiyor.

AI robotik uzmanı Yervant Kulbashian, bu durumu okyanus ortasında, devasa bir kitap koleksiyonu olan ama saati olmayan bir kazazedeye benzetiyor.

Dil modeli kendi dil ve kelime alanında çalışıyor; yalnızca bu alana girmiş olan bilgilere atıf yapıyor.OpenAI aslında bu sorunun teknik olarak üstesinden gelebilir.

Pasquale Minervini, kendi masaüstü ChatGPT uygulamasının saati doğru söylediğini, çünkü uygulamanın sisteme gömülü saat araçlarına erişim izni olduğunu belirtiyor.

OpenAI sözcüsü Taya Christianson da, "ChatGPT'ye güç veren modellerin yerleşik güncel saate erişimi yok.

Bu nedenle güncel olgular için bazen arama yapması gerekir" açıklamasını yapıyor.

Ancak yapay zekaya sürekli saat erişimi vermek, beraberinde bir bedel getiriyor.

Kulbashian, ChatGPT’nin bilgiyi anlık olarak "hatırladığı" ve sınırlı olan bağlam penceresi konseptine dikkat çekiyor.

Her saat kontrolü, bu bağlam penceresine fazladan bir veri parçası ekliyor.

Kulbashian, bunu masasına her saniye durmuş bir saat koyan birine benzetiyor.

Masaya ne kadar çok şey eklerseniz, eskileri o kadar itmeniz gerekir.

Sürekli güncellenen saat bilgisi, yapay zeka sistemi için kısa sürede bir bilgi karmaşasına dönüşebiliyor.

Hatta bu durum, robotun kafasını karıştırarak daha kötü sonuçlar vermesine yol açabilir.

Bu yüzden sadece tarih gibi daha az değişen bilgileri sisteme dahil etmek çok daha kolay hale geliyor.Kullanıcılar, ChatGPT'den saati özellikle internette aramasını isteyerek bu sorunu aşabiliyor.

Ancak Minervini, yapay zeka modellerini web'de arama yapmaya veya kişisel verilere erişmeye göndermenin, kötü niyetli girdilerle karşılaşma riskini artırdığını vurguluyor.

Minervini'nin araştırmalarına göre, yapay zekanın tam olarak çözemediği tek sorun saat de değil.

Lider modellerin, analog saatlerin kollarının konumunu okumakta zorlandığı ve takvimler konusunda da tuhaflıklar sergilediği görülüyor.

Ortalama bir kullanıcı için asıl sorun ise ChatGPT'nin kendi sınırlarını güvenilir bir şekilde açıklayamaması.

Bir insan asistanın saati bilmemesi kabul edilebilirken, sürekli olarak bildiği konusunda yalan söyleyen biri işten çıkarılırdı.

Yapay zeka modelleri elbette yalan söylemiyor; yalnızca, her zamanki gibi, kullanıcının duymak istediği şeyi tahmin ediyor.

OpenAI, bu sınırları daha tutarlı bir şekilde ne zaman araması gerektiğini öğrenmesi konusunda iyileştirmeler yapmaya devam ettiklerini belirtiyor.