NVIDIA ve Amazon Web Services (AWS), yapay zeka ile ilgili olarak bir dizi yeni ortak çözümü tanıttı. Şirketler, eğitim ve yapay sinir ağlarının çalıştırılması için güçlü NVIDIA GH200 NVL32 sistemlerini duyururken, bu sistemlere dayalı dünyanın en güçlü yapay zeka süper bilgisayarı olan Project Ceiba'nın oluşturulduğunu açıkladılar.
NVIDIA GH200 NVL32: Yüksek Performanslı Yapay Zeka Sistemi
NVIDIA GH200 NVL32, standart bir sunucu rafı formatında tasarlanmış hazır bir sistemdir. 32 adet NVIDIA GH200 Grace Hopper Superchip hibrit hızlandırıcıyı bir araya getirir; bu, 72 Arm Neoverse çekirdekli bir merkezi işlem birimi ve NVIDIA H100 grafik işlemcisinden oluşan çift çipli bir sistemdir. Bu raf, FP8 işlemlerinde 128 petaflop'a kadar olağanüstü bir performans sağlayabilir.
Sistem, 2304 Arm çekirdeğine, 20 terabayt RAM'e (157 terabayt/s geniş bant HBM3e dahil) sahiptir. GH200 süper çipler arasındaki iletişimi dokuz NVSwitch anahtarı ve 57.6 terabayt/s toplam bant genişliği ile sağlayan NVLink arabirimini kullanır. Sıvı soğutma sistemi uygulanmıştır.
AWS, GH200 NVL32 sistemlerini NVIDIA DGX Cloud bulut platformu içinde sunacak ilk sağlayıcı olacak. Ayrıca, Amazon, müşterilere yeni NVIDIA sistemlerini EC2 UltraClasters kümelerine birleştirme olanağı tanıyarak binlerce GH200 Superchip hızlandırıcısına erişim sağlayacaktır. NVIDIA'nın ifadesine göre, GH200 NVL32 sistemleri, 1 trilyon parametreli büyük yapay sinir ağları için hem eğitim hem de çalıştırma için mükemmel bir şekilde uygundur.
Project Ceiba: Dünyanın En Hızlı İYİ Süper Bilgisayarı
Şirketler ayrıca, GPU tabanlı dünyanın en hızlı İYİ süper bilgisayarı olan Project Ceiba'yı duyurdu. Bu sistem, FP8 formatında 65 exaflops performans sağlayacak. 16,384 GH200 hızlandırıcıyı, 9.1 petabayt belleği birleştirecek ve 410 terabayt/s seviyesinde bir toplam bant genişliği sağlayacaktır. Bu süper bilgisayar, AWS DGX Cloud'un bir parçası olacak ve önümüzdeki yıl AWS müşterilerinin kullanımına sunulacak.
