Основная информация о графическом ускорителе
H100 PCIe с 80 ГБ памяти - двухслотовый ускоритель NVIDIA Hopper для серверов Dell, который ставится в обычный слот PCIe 5.0 и закрывает задачи обучения нейросетей, инференса и научных расчетов.
Карта поставляется в OEM-исполнении Dell без розничной упаковки. Мощность настраивается в пределах 300-350 Вт, охлаждение пассивное за счет вентиляторов сервера.
- Память
- 80 ГБ, 2 ТБ/с
- FP64
- 26 TFLOPS
- NVLink
- 600 ГБ/с
- Мощность
- 300-350 Вт
Производительность и масштабирование
Тензорные вычисления FP8
Тензорные ядра четвертого поколения с Transformer Engine дают до 3026 TFLOPS в FP8 с разреженностью, что ускоряет обучение и работу трансформерных моделей.
Связка карт по NVLink
Две карты соединяются мостом NVLink на 600 ГБ/с - в несколько раз быстрее обмена по шине PCIe 5.0 с ее 128 ГБ/с.
До 7 экземпляров MIG
Ускоритель делится на семь изолированных GPU по 10 ГБ, и один сервер обслуживает несколько пользователей или сервисов инференса одновременно.
Аппаратные декодеры
Семь блоков NVDEC и семь JPEG-декодеров снимают с процессора разбор видео и изображений в задачах компьютерного зрения.
Основные характеристики
| Параметр | Значение |
|---|---|
| Тип устройства | Серверный графический ускоритель |
| Архитектура | NVIDIA Hopper |
| Объем памяти GPU | 80 ГБ |
| Пропускная способность памяти | 2 ТБ/с |
| FP64 / FP64 Tensor Core | 26 / 51 TFLOPS |
| FP32 | 51 TFLOPS |
| TF32 / FP16 / FP8 Tensor Core | 756 / 1513 / 3026 TFLOPS с разреженностью |
| INT8 Tensor Core | 3026 TOPS с разреженностью |
| Интерфейс | PCI Express 5.0, 128 ГБ/с |
| NVLink | 600 ГБ/с |
| Мощность (TDP) | 300-350 Вт, настраиваемая |
| Исполнение | Двухслотовая плата, воздушное охлаждение |
Применение
Ускоритель рассчитан на серверы с одной-восемью картами: обучение и дообучение моделей, инференс языковых моделей и рекомендательных систем, моделирование и расчеты двойной точности. Поддержка MIG позволяет разделить карту между командами разработки или виртуальными машинами. Для установки нужен сервер в конфигурации под GPU с кабелем дополнительного питания карты.
Комплектация
- Графический ускоритель NVIDIA H100 PCIe 80 ГБ, OEM-упаковка1 шт.





