Описание
NVIDIA H100 SXM5 80GB — ускоритель в формате SXM для серверных платформ NVIDIA HGX на архитектуре Hopper (GPU GH100). Видеопамять 80 ГБ HBM3 с пропускной способностью 3,35 ТБ/с.
Партномер 692-2G520-0200 — оригинальный партномер NVIDIA.
Оригинальный партномер NVIDIA.
Характеристики H100 SXM5 80GB
| Производитель GPU | NVIDIA |
|---|
| Модель | NVIDIA H100 SXM5 80GB |
|---|
| Партномер | 692-2G520-0200 |
|---|
| Исполнение | NVIDIA (референсное) |
|---|
| Архитектура | Hopper |
|---|
| Графический процессор | GH100 |
|---|
| Объём видеопамяти | 80 ГБ |
|---|
| Тип памяти | HBM3 |
|---|
| Пропускная способность памяти | 3,35 ТБ/с |
|---|
| CUDA-ядра | 16 896 |
|---|
| Тензорные ядра | 528 (4-го поколения) |
|---|
| Интерфейс | SXM5 (NVLink 4) |
|---|
| Форм-фактор | модуль SXM5 |
|---|
| Охлаждение | радиатор платформы HGX (воздух или жидкость) |
|---|
| Энергопотребление (TDP) | до 700 Вт |
|---|
| Видеовыходы | нет |
|---|
| Объединение карт | NVLink 4, 900 ГБ/с |
|---|
| MIG (разделение GPU) | до 7 экземпляров по 10 ГБ |
|---|
| Год выпуска | 2022 |
|---|
| Статус | выпускается |
|---|
Производительность (по данным производителя)
| FP64 | 34 TFLOPS |
|---|
| FP64 (тензорные ядра) | 67 TFLOPS |
|---|
| FP32 | 67 TFLOPS |
|---|
| TF32 (тензорные ядра) | 989 TFLOPS с разреженностью |
|---|
| FP16 / BF16 (тензорные ядра) | 1979 TFLOPS с разреженностью |
|---|
| FP8 | 3958 TFLOPS с разреженностью |
|---|
| INT8 | 3958 TOPS с разреженностью |
|---|
Назначение
- обучение крупных нейросетей и LLM
- инференс LLM в масштабе ЦОД
- суперкомпьютеры и HPC
Особенности H100 SXM5 80GB
- модуль для плат HGX H100 (4 и 8 GPU)
- NVLink 900 ГБ/с между GPU через NVSwitch
- Transformer Engine с FP8
Совместимость и установка
Модуль SXM/OAM устанавливается на плату HGX или OAM-платформу сервера; в слот PCIe не ставится. Перед покупкой сверим модель платформы и ревизию платы.
Энергопотребление до 700 Вт — учитывайте мощность блока питания сервера.
Поддерживаются CUDA, cuDNN, TensorRT, NVIDIA AI Enterprise, а также фреймворки PyTorch и TensorFlow.
Другие партномера H100 SXM5 80GB
Все варианты H100 SXM5 80GB →
Вопросы и ответы
Чем отличаются партномера H100 SXM5 80GB?
Графический процессор и память у всех партномеров одной модели одинаковые. Отличаются исполнение и поставщик: референсная карта производителя, OEM-версии для серверов HPE, Lenovo или Dell (своя прошивка, крепления и поддержка в платформе), версии без контроллера CEC и партнёрские карты. Если у вас сервер HPE или Lenovo — лучше брать партномер под эту платформу.
Что такое MIG?
Multi-Instance GPU — аппаратное деление одного ускорителя на независимые GPU со своей памятью и вычислительными блоками (до 7 экземпляров по 10 ГБ). Удобно для одновременной работы нескольких моделей или пользователей.
Какая гарантия и сроки поставки?
Гарантия 12 месяцев на новое оборудование (6 месяцев на б/у) с возможностью продления до 3 лет. Наличие и срок поставки уточняйте — быстро посчитаем, выставим счёт с НДС и отправим в любой регион России.
Купить видеокарту NVIDIA H100 SXM5 80 ГБ HBM3 (692-2G520-0200) в Compstone: цена с НДС, безналичный расчёт, договор, доставка по Москве и всей России. Подберём совместимый сервер, райзеры и мосты NVLink.
