Nvidia, GTC 2024 konferansı kapsamında Blackwell mimarisine sahip grafik işlemcilerinde bir sonraki nesil yapay zeka hızlandırıcılarını tanıttı. Üreticiye göre, yaklaşan yapay zeka hızlandırıcıları, daha büyük sinir ağlarının oluşturulmasına izin verecek, özellikle trilyonlarca parametre içeren büyük dil modelleri (LLM) ile çalışırken Hopper'a göre enerji açısından %25 daha verimli ve ekonomiktir.
Blackwell Mimarisi ve Yenilikler
GPU Blackwell mimarisi, Amerikalı matematikçi David Harold Blackwell'in adını taşır ve hesaplamaları hızlandırmak için bir dizi yenilikçi teknoloji içerir. Bu teknolojiler, veri işleme, mühendislik modelleme, elektronik tasarım otomasyonu, ilaç tasarımı, kuantum hesaplama ve generatif yapay zeka alanlarında bir atılım yapmaya yardımcı olacak.
Nvidia B200 GPU ve Performansı
Nvidia'nın grafik işlemcisi B200, üretici tarafından dünyanın en güçlü yongası olarak adlandırılıyor. FP4 ve FP8 hesaplamalarında, yeni GPU sırasıyla 20 ve 10 petaflops performans sağlıyor. GPU, 4 nm'lik özel bir TSMC 4NP işlem teknolojisi versiyonuna dayanan iki kristalden oluşur ve CoWoS-L 2.5D ambalajla birleştirilir.
Grace Blackwell Superchip ve Yapısal Özellikleri
Grace Blackwell Superchip, bir çift B200 grafik işlemcisi ve Nvidia Grace'in 72 Neoverse V2 çekirdeği ile birleştirilmiş bir Arm işlemcisini içerir. Bu hızlandırıcı, yarım dolu bir sunucu rafı genişliğinde ve 2.7 kW'a kadar TDP'ye sahiptir.
GB200 NVL72 ve Nvidia'nın Büyük Veri İşleme Yetenekleri
GB200 NVL72 sistemi, 36 Grace Blackwell Superchip ve iki adet NVSwitch 7.2T anahtarlama cihazını içerir. Bu sistem, 72 B200 Blackwell grafik işlemcisine ve 36 Grace merkezi işlem birimine sahiptir ve beşinci nesil NVLink arayüzüyle birbirine bağlanır.
Nvidia HGX B100, HGX B200 ve DGX B200 Sunucu Sistemleri
Nvidia'nın sunucu sistemleri HGX B100, HGX B200 ve DGX B200, sekiz Blackwell hızlandırıcısı ve NVLink 5 ile birbirine bağlanmıştır. Bu sistemler, yüksek performanslı işlemler için tasarlanmış olup, her biri farklı enerji tüketimine ve dolayısıyla farklı bir güce sahiptir.
Büyük Ölçekli Yapay Zeka Sistemleri
Nvidia, 10.000 ila 100.000 arasında GB200 hızlandırıcısını bir veri merkezi içinde kümeler halinde birleştirerek en büyük yapay zeka sistemlerini oluşturmak için Nvidia Quantum-X800 InfiniBand ve Spectrum-X800 Ethernet ağ arayüzlerini önermektedir.
Dağıtım Planları ve Ortaklar
Nvidia'nın B200 tabanlı sistemleri, Aivres, ASRock Rack, ASUS, Eviden, Foxconn, GIGABYTE, Inventec, Pegatron, QCT, Wistron, Wiwynn ve ZT Systems gibi birçok üretici tarafından yakında piyasaya sürülecektir. Ayrıca, Nvidia DGX Cloud platformunda GB200 yer alacak ve bu yılın ilerleyen zamanlarında AWS, Google Cloud ve Oracle Cloud gibi önde gelen bulut sağlayıcılarında bu süper yongaya dayalı çözümler sunulacaktır.
