Основная информация о графическом ускорителе
NVIDIA H100 NVL в OEM-поставке Dell - серверный ускоритель на архитектуре Hopper с 94 ГБ памяти для обучения и запуска больших языковых моделей в стоечных серверах PowerEdge.
Карта занимает два слота PCIe и охлаждается потоком воздуха сервера. Версия NVL отличается от обычной H100 PCIe увеличенным объемом памяти: 94 ГБ против 80 ГБ, что позволяет держать на одной карте модели крупнее.
- Память GPU
- 94 ГБ
- Мощность
- 350-400 Вт
- Ширина
- 2 слота
Возможности архитектуры Hopper
Тензорные ядра четвертого поколения
Ядра с механизмом Transformer Engine переключаются между точностью FP8 и FP16 и ускоряют обучение и инференс трансформерных моделей.
Разделение на экземпляры MIG
Ускоритель делится на изолированные экземпляры, и несколько пользователей или виртуальных машин получают собственные гарантированные ресурсы GPU.
Конфиденциальные вычисления
Встроенная защита обрабатываемых данных и моделей пригодится там, где на одном сервере работают задачи разных подразделений или клиентов.
Основные характеристики
| Параметр | Значение |
|---|---|
| Тип устройства | Серверный графический ускоритель |
| Графический процессор | NVIDIA H100 NVL |
| Архитектура | NVIDIA Hopper |
| Объем памяти GPU | 94 ГБ |
| Интерфейс | PCI Express |
| Мощность | 350 Вт в PowerEdge R770, 400 Вт в PowerEdge R570 |
| Исполнение | Двухслотовая плата |
| Охлаждение | Пассивное, воздушный поток сервера |
| Поддерживаемые ОС | RHEL, SLES, Ubuntu, Windows, VMware ESXi 8.0 |
| Вариант поставки | OEM |
Совместимость с серверами Dell
В Dell PowerEdge R770 устанавливается до двух ускорителей H100 NVL с мощностью 350 Вт, в PowerEdge R570 - до трех карт с мощностью 400 Вт. Для подключения нужен сервер в конфигурации под GPU с подходящими райзерами и кабелями дополнительного питания: через слот PCIe карта получает только 75 Вт.
Применение
H100 NVL ставят в серверы для генеративного ИИ: дообучение и инференс языковых моделей, чат-боты, рекомендательные системы, компьютерное зрение. Карта подходит и для научных расчетов и аналитики данных, где важны большой объем памяти и пропускная способность.
Комплектация
- Графический ускоритель NVIDIA H100 NVL, OEM-упаковка1 шт.





