Haber Detayı
KIOXIA devasa veri setleri için düşük bellek kullanımlı vektör arama çözümünü duyurdu
Yapay zekâ modellerinin veri ihtiyacı artarken KIOXIA, SSD tabanlı vektör arama çözümüyle DRAM kısıtlamalarını aşıyor.
KIOXIA, yapay zeka uygulamaları için kritik öneme sahip vektör veritabanı teknolojisinde yeni bir rekora imza attığını duyurdu.
Açıklamaya göre şirket, "KIOXIA AiSAQ" adlı açık kaynaklı teknolojisiyle tek bir sunucu üzerinde 4,8 milyar yüksek boyutlu vektör araması gerçekleştirmeyi başardı.
NVIDIA ile yapılan iş birliği sayesinde, devasa veri setlerinin endeksleme sürelerinde 7,8 kata varan hızlanma sağlandığı belirtildi.Yapay zeka ve RAG (Arama Destekli Metin Üretimi) çözümlerinde milyarlarca veri arasında benzerlik araması yapmak, geleneksel yöntemlerde aşırı yüksek maliyetli DRAM kullanımını zorunlu kılıyordu.
KIOXIA AiSAQ teknolojisi, aramaları doğrudan SSD üzerinden gerçekleştirerek DRAM kullanımını minimize ediyor.
Bu yöntem, veritabanı ölçeklendirmesini daha ekonomik hale getirirken, tek bir sunucu üzerinden milyarlarca vektöre erişim imkânı tanıyarak altyapı karmaşıklığını azaltıyor.Endeksleme süresi haftalardan günlere indiBüyük ölçekli vektör veritabanlarında en büyük sorunlardan biri olan "endeks oluşturma süresi", NVIDIA’nın GPU tabanlı cuVS kütüphanesi ile aşılabiliyor.
Yapılan testlerde, CPU kullanılarak 28,4 gün süren endeks oluşturma işlemi, dört adet NVIDIA Hopper GPU yardımıyla 1,4 güne indirilmiş durumda.
Uçtan uca testlerde ise 31 günlük işlem süresi 4 güne düşürülerek 7,8 katlık bir hız artışı elde ediliyor.
Bu gelişme, trilyonlarca vektöre ulaşması beklenen gelecekteki yapay zeka modelleri için operasyonel bir dönüm noktası olarak değerlendiriliyor.
