ОПИСАНИЕ
NVIDIA H200 NVL — высокопроизводительный GPU-ускоритель на архитектуре Hopper с 141 ГБ памяти HBM3E. Спроектирован для масштабной LLM инференса, научных вычислений и больших данных. NVL форм-фактор (Nvidia Vertical Layer) для 8-слотовой конфигурации. Поддержка NVLink 4.0, TensorRT-LLM, NVIDIA AI стека.

ОСНОВНЫЕ ХАРАКТЕРИСТИКИ
– Парт-номер: NVIDIA H200 NVL Token
– Тип: Tensor Core GPU Hopper
– Память: 141 ГБ HBM3E, пропускная способность 4.8 TB/s
– Интерфейс: NVLink 4.0 (900 ГБ/с), PCIe 5.0 x16
– Производительность FP64: 22 PFLOPS
– Производительность Tensor Float 32: 1.5 EXAFLOPS
– TDP: 700 Вт
– Форм-фактор: NVL (вертикальный, 8 GPU на стойку)
– Связность: До 8x H200 в одной системе
– Применение: LLM-инференс, обучение, научные расчеты

ПРЕИМУЩЕСТВА
– Огромная память 141 ГБ позволяет работать с большими моделями без разбиения
– NVLink 4.0 для масштабного распределенного обучения/инференса
– Меньше задержка и перемещение данных благодаря высокой пропускной способности памяти
– TensorRT-LLM оптимизирует инференс LLM в 8-100x раз быстрее
– Экономия питания за счет NVL формата монтажа

NVIDIA H200 NVL 141GB — премиум GPU-ускоритель для масштабного LLM инференса и HPC вычислений.