
Основная информация о сервере для ИИ и GPU
Флагманский сервер 6U с восемью ускорителями для обучения больших моделей: на выбор NVIDIA HGX H100 или H200, AMD Instinct MI300X или Intel Gaudi3 в одном шасси.
Два Intel Xeon Scalable 5-го поколения до 64 вычислительных ядер или 4-го поколения до 56 ядер на чипсете Intel C741 и 32 слота DDR5 до 4 ТБ готовят данные для ускорителей. Шасси высотой 263,2 мм весит до 114,05 кг.
- Ускорители
- 8 × GPU или OAM
- Ядер CPU
- До 2 × 64
- Память
- 32 DDR5, до 4 ТБ
- Слоты PCIe
- До 10 × Gen5 x16
Варианты ускорителей
- 8 × NVIDIA HGX H100 80 ГБ SXM5 по 700 Вт, полная связность NVLink
- 8 × NVIDIA HGX H200 141 ГБ SXM5 по 700 Вт, полная связность NVLink
- 8 × AMD Instinct MI300X 192 ГБ OAM по 750 Вт со связью Infinity Fabric
- 8 × Intel Gaudi3 128 ГБ OAM по 900 Вт со встроенными портами RoCE
Конфигурация с Gaudi3 отличается: шесть встроенных портов OSFP 800 Гбит, 12 задних вентиляторов, 8 слотов PCIe и только 8 NVMe-накопителей; контроллер PERC H965i в ней не поддерживается.
Возможности XE9680
Гибкое хранилище
Спереди 16 накопителей E3.S EDSFF напрямую от PCIe-коммутатора (x4 Gen5), 8 дисков U.2 SAS/SATA через fPERC H965i или 8 NVMe U.2 напрямую. Наборы данных держат рядом с GPU.
Сеть для кластера
До десяти слотов PCIe Gen5 x16 полной высоты под адаптеры InfiniBand или Ethernet по одному на ускоритель, опционально OCP 3.0 и два порта 1GbE LOM.
Воздушное охлаждение
Шесть вентиляторов HPR Gold на средней панели и десять сзади для отсека GPU, все с горячей заменой. Жидкостный контур не требуется.
Основные характеристики
| Параметр | Значение |
|---|---|
| Форм-фактор | Стоечный, 6U |
| Габариты | 263,2 × 482,0 × 995 мм |
| Масса | До 114,05 кг |
| Ускорители | 8 × H100, H200, MI300X или Gaudi3 |
| Процессоры | 2 × Xeon Scalable 5-го или 4-го поколения |
| Чипсет | Intel C741 |
| Память | 32 DDR5 RDIMM, до 4 ТБ, 5600 МТ/с |
| Накопители | 16 × E3.S или 8 × U.2 |
| Слоты PCIe | До 10 × Gen5 x16 |
| Блоки питания | 2800, 3000 или 3200 Вт Titanium |
| Охлаждение | Воздушное, вентиляторы HPR Gold |
| ОС | Ubuntu, RHEL, SLES, VMware ESXi |
Применение
XE9680 строят кластеры для обучения и дообучения больших языковых и мультимодальных моделей, генеративного ИИ, рекомендательных систем и HPC. Поддерживаются Canonical Ubuntu Server LTS, Red Hat Enterprise Linux, SUSE Linux Enterprise Server и VMware ESXi.
Комплектация
- Сервер в шасси 6U с 8 ускорителями1 шт.
- Блоки питания Titaniumпо заказу
Питание и порты
Блоки AC Titanium на 2800 Вт, 3000 Вт (для варианта с Gaudi3) или 3200 Вт (поставляется только в США и Канаде). Память работает на 5600 МТ/с с Xeon 5-го поколения и на 4800 МТ/с с 4-м. Спереди iDRAC Direct micro-USB, USB 2.0 и VGA; сзади USB 2.0, USB 3.0, VGA и RJ45 iDRAC9.







