
Основная информация о сервере для ИИ и GPU
Сервер 4U с четырьмя NVIDIA HGX H100 SXM5, полностью связанными NVLink, для обучения и инференса моделей ИИ без подвода воды к стойке.
Ускорители H100 с памятью 80 ГБ и мощностью 700 Вт каждый охлаждаются воздухом с жидкостным контуром внутри сервера, процессоры - обычным воздушным потоком. Высота 174,3 мм, ширина 481,91 мм, масса 61,4 кг.
- GPU
- 4 × H100 80 ГБ SXM5
- Ядер CPU
- До 2 × 56
- Память
- 32 DDR5, до 4 ТБ
- Масса
- 61,4 кг
Возможности XE8640
Четыре H100 с NVLink
Ускорители NVIDIA HGX H100 80 ГБ в исполнении SXM5 связаны NVLink каждый с каждым. Модели, не помещающиеся в память одного GPU, распределяются по четырем ускорителям без потерь на шине PCIe.
Охлаждение без воды в стойке
Для GPU применяется воздушное охлаждение с жидкостным контуром внутри шасси, для процессоров - воздушное. Подвод охлаждающей воды к стойке не нужен, сервер ставится в обычный машинный зал.
Процессоры и память нового поколения
Два Intel Xeon Scalable 4-го поколения до 56 ядер на чипсете Intel C741 и 32 слота DDR5 RDIMM на 4800 МТ/с, до 4 ТБ. Хватает для подготовки данных и подачи их на ускорители.
Загрузка, порты и защита
Система загружается с NVMe BOSS-N1 (аппаратное зеркало из двух SSD M.2) или с USB, есть программный RAID S160. Четыре слота PCIe Gen5 x16 принимают сетевые адаптеры для кластера, опционально доступны два порта 1GbE LOM.
Спереди: iDRAC Direct micro-USB, USB 2.0, VGA; сзади: USB 2.0, USB 3.0, VGA и порт RJ45 iDRAC9. Защиту дают Silicon Root of Trust, проверка компонентов, шифрование на SED-дисках, Secure Boot, Secure Erase, TPM 2.0 и System Lockdown.
Основные характеристики
| Параметр | Значение |
|---|---|
| Форм-фактор | Стоечный, 4U |
| Габариты | 174,3 × 481,91 × 865,54 мм |
| Масса | 61,4 кг |
| Ускорители | 4 × NVIDIA HGX H100 80 ГБ SXM5, 700 Вт |
| Процессоры | 2 × Intel Xeon Scalable 4-го поколения, до 56 ядер |
| Чипсет | Intel C741 |
| Память | 32 слота DDR5 RDIMM, 4800 МТ/с, до 4 ТБ |
| Слоты PCIe | 4 × PCIe Gen5 x16 |
| Загрузка | BOSS-N1, 2 × M.2 NVMe |
| Охлаждение | Воздух для CPU, жидкостно-воздушное для GPU |
| ОС | Ubuntu Server LTS, Red Hat Enterprise Linux |
Применение
XE8640 рассчитан на обучение и дообучение языковых и компьютерных моделей, инференс с высокой пропускной способностью, научные расчеты и цифровые двойники. Сервер поддерживает Canonical Ubuntu Server LTS и Red Hat Enterprise Linux, на которых обычно разворачивают стек NVIDIA AI.
Комплектация
- Сервер в шасси 4U в заказанной конфигурации1 шт.
- Лицевая панель LCD или защитнаяопционально
Размещение
Глубина сервера 865,54 мм без лицевой панели и 901,4 мм с ней. При планировании стойки учитывают массу 61,4 кг и мощность ускорителей: четыре H100 потребляют до 2800 Вт.







