Shenzhen, Chiny - lipca 2025 r. - W przełomie dla AI i Model Large Model, NVIDIA uruchomiłH100 141 GBNVL Original, rozwiązanie nowej generacji zaprojektowane w celu przekroczenia granic wydajności AI, pojemności pamięci i wydajności energetycznej. Moduł H100 NVL 141 GB, zbudowany z myślą o obciążeniach AI w skali przedsiębiorstw, jest dostosowany do wymagań najnowocześniejszych centrów danych, szkolenia modelu języka i wnioskowania na niespotykaną prędkość i skalę.
3x szybsze wnioskowanie LLM - zasilane przez architekturę NVL
W przeciwieństwie do standardowego GPU SXM lub PCIE, H100 NVL jest unikalnym współczynnikiem formularzem z dwoma GPU H100 podłączonymi przez NVLink i pakowane jako rozwiązanie z podwójnym GPU z 141 GB pamięci HBM3 i przepustowość pamięci o ponad 7TB/S. To sprawia, że jest to idealny GPU dla:
Trening GPT-3, GPT-4 i LAMA 3
Obciążenia dotyczące wnioskowania transformatora na dużą skalę
Zadania multimodalne AI (język wizji, mowa itp.)
Zgodnie z wewnętrznymi testami NVIDIA H100 NVL zapewnia do 12x szybsze wnioskowanie dla dużych modeli językowych w porównaniu z A100 80 GB.
