Haber Detayı
Işık hızıyla çalışan yeni çip: Yapay zekada GPU dönemi bitiyor mu?
AI modellerinin eğitim hızını kısıtlayan en büyük engel aşıldı. Geliştirilen "POMMM" mimarisi, elektrik yerine ışık kullanarak, binlerce GPU'nun paralel olarak yaptığı tensör işlemlerini tek bir lazer atışıyla gerçekleştirebiliyor, enerji tüketimini kökten azaltıyor.
Bilim insanları, yapay zeka modellerinin eğitimi ve çalıştırılma biçiminde devrim yaratabilecek, ışığı elektrik yerine kullanan yeni nesil optik hesaplama için temel bir mimari geliştirdi.
Bu gelişme, büyük dil modelleri gibi derin öğrenme sistemlerinin temelini oluşturan ve verilerin sıralandığı ağırlıklı yapılar olan “tensör”lerle doğrudan ilişkili.Modern AI sistemlerinde, modellerin tensör verilerini işleme hızı, sistemin temel performans darboğazını oluşturuyor.
Bu darboğaz, bir modelin ne kadar büyük olabileceğine dair bir sınır koyuyor.
Geleneksel ışık tabanlı hesaplama, küçük ölçeklerde hızlı ve enerji açısından verimli olsa da, çoğu optik sistem paralel olarak çalışamıyor.
Bu durum, işlem gücünü katlanarak artıran GPU'ların aksine, optik sistemlerin doğrusal çalışmasına neden oluyor.Bu sınırlama yüzünden geliştiriciler, ölçekteki paralel işlem avantajları nedeniyle optik hesaplamayı tercih etmiyordu.
OpenAI ve Google gibi büyük firmaların en güçlü modellerinin eğitim için binlerce GPU'nun eşzamanlı çalışmasını gerektirmesinin nedeni bu ölçeklenme sorunu haline gelmişti.POMMM Mimarisi: Tek atışta paralel işlemAncak Paralel Optik Matris-Matris Çarpımı (POMMM) adı verilen yeni mimari, optik hesaplamayı geride tutan bu sorunu ortadan kaldırabilir.
Önceki optik yöntemlerin aksine, POMMM, tek bir lazer atışı kullanarak birden fazla tensör işlemini aynı anda gerçekleştiriyor.Bunun sonucunda ortaya çıkan temel AI donanımı tasarımı, bir AI sisteminin tensör işlem hızını, mevcut en gelişmiş elektronik donanım yeteneklerinin ötesine taşıma potansiyeli taşıyor ve bunu yaparken enerji tüketimini ciddi ölçüde azaltıyor.Nature Photonics dergisinde yayımlanan çalışma, standart optik ve GPU şemalarına karşı yapılan bir dizi testle birlikte deneysel bir prototipin sonuçlarını detaylandırıyor.
Bilim insanları, dijital verileri ışık dalgalarının genlik ve fazına kodlayarak, bu dalgaların birleşmesiyle matris veya tensör çarpımları gibi matematiksel işlemleri gerçekleştirmesini sağlıyor.
Bu optik işlemler, ışık yayılırken pasif olarak gerçekleştiği için ek güce ihtiyaç duymuyor.Aalto Üniversitesi Fotonik Grubu lideri ve çalışmanın baş yazarı Zhipei Sun, bu yaklaşımın neredeyse her optik platformda uygulanabileceğini ve gelecekte bunu doğrudan fotonik çiplere entegre ederek, AI görevlerini son derece düşük güç tüketimiyle gerçekleştirmeyi planladıklarını söyledi.Temsilciler, bu gelişmeyi, insanlardan daha zeki ve farklı disiplinlerde öğrenebilen varsayımsal bir gelecek AI sistemi olan Yapay Genel Zekaya (AGI) doğru atılmış kritik bir adım olarak görüyor.
POMMM, alanın en büyük darboğazlarından birini ortadan kaldırarak geliştiricilerin mevcut paradigmaların temel sınırlarının çok ötesine ölçeklenmesine olanak tanıyabilir.