HPE, genetik yapay zeka için modüler bir süper bilgisayar sisteminin artık kullanılabilir olduğunu duyurdu. Müşterinin altyapısında yerel olarak konumlandırılması amaçlanan bu platform, NVIDIA GH200 Grace Hopper süper çipleri üzerine kurulmuştur.
HPE'nin Sistemi ve Donanım Detayları
HPE, bu sistemin hazırlıklarını 2023 yılı Kasım ayında duyurdu. Sistemin temeli olarak ProLiant DL380a Gen11 sunucuları kullanılmıştır. Toplamda 168 adede kadar GH200 süper çipi kullanılabilir. Ayrıca, NVIDIA Spectrum-X Ethernet platformu ve DPU NVIDIA BlueField-3 de kullanılmaktadır.
Yapay Zeka Uygulamaları ve Yazılım Platformları
Çözüm, HPE'nin makine öğrenimi platformu ve analitik yazılımı ile desteklenmektedir. NVIDIA AI Enterprise 5.0, AI uygulamaları için bir platform sağlamaktadır ve yüklenebilir yazılım konteynerleri tabanlı mikro hizmetleri içermektedir. Ayrıca, NVIDIA NeMo Retriever servisi ve veri işleme ve yapay zeka için diğer kütüphaneler de bulunmaktadır. Bu süper bilgisayar sistemi, büyük işletmeler, araştırma kurumları ve devlet kurumları için tasarlanmıştır.
Performans ve İş Verimliliği
16 düğümlü bir konfigürasyonda, sistem, 70 milyar parametreye sahip Llama 2 modelini sadece 6 dakikada optimize edebilmektedir. Yüksek performans, müşterilere sanal asistanlar, akıllı sohbet botları ve kurumsal arama araçları gibi genetik yapay zeka uygulamaları ile iş verimliliğini artırma imkanı sunar. HPE Machine Learning Inference yazılımı sayesinde, şirketler büyük ölçekli makine öğrenimi modellerini hızlı ve güvenli bir şekilde dağıtabilirler.
Gelecek Nesil Ürünler ve NVIDIA Tabanlı Donanım Çözümleri
HPE, Blackwell mimarisi tabanlı NVIDIA donanım çözümlerini kullanan bir sonraki nesil ürünleri piyasaya sürme niyetini de duyurdu. Bu, GB200 hibrit süper çipleri ile HGX B200 ve HGXB100 ürünlerini içerir. Yeni sistemler hakkındaki detaylar daha sonra açıklanacaktır.
