NVIDIA'DAN YAPAY ZEKA GPU'LARI İÇİN YENİ HAMLE: NVHBM BELLEĞİ GELİYOR

Amazon'un Annapurna Labs ekibiyle geliştirilen yeni çözüm, standart HBM4E'ye kıyasla daha yüksek bant genişliği sunarken enerji tüketimini azaltmayı hedefliyor.

BANT GENİŞLİĞİNDE YÜZDE 30'DAN FAZLA ARTIŞ

Nvidia'nın paylaştığı verilere göre NVHBM, standart HBM4E'ye kıyasla bellek bant genişliğini yüzde 30'dan fazla artırırken güç tüketimini yüzde 15 azaltabilecek. Yeni teknoloji, Nvidia'nın NVLink Fusion platformunun bir parçası olarak konumlandırılıyor.

NVHBM'nin en önemli değişikliklerinden biri bellek denetleyicisinin ana işlemciden çıkarılarak doğrudan HBM'nin taban kalıbına yerleştirilmesi olacak. Nvidia, bu tasarım sayesinde ana çip üzerinde yüzde 25'e kadar daha fazla alan açılabileceğini ve boşalan bölümün ek hesaplama kapasitesi için kullanılabileceğini açıkladı.

YAPAY ZEKA MODELLERİNDE DARBOĞAZI AZALTACAK

Trilyonlarca parametreye ulaşan yapay zeka modelleri, bellek kapasitesi ve bant genişliği ihtiyacını hızla artırıyor. Nvidia, NVHBM ile özellikle agentic AI ve fiziksel yapay zeka uygulamalarında ortaya çıkan bellek darboğazlarını azaltmayı amaçlıyor.

AMAZON İLK KULLANICILARDAN BİRİ OLACAK

Amazon'un Annapurna Labs ekibi NVHBM teknolojisinin ilk kullanıcıları arasında yer alacak. Teknolojinin AWS altyapısında NVLink ölçeklendirme mimarisiyle birlikte kullanılarak yapay zeka performansı ve enerji verimliliğinin artırılması planlanıyor.