Основная информация о сервере
PowerEdge XE9680 в конфигурации XE9680-004 - сервер для ИИ с платформой NVIDIA HGX H200 на 8 GPU SXM5 и двумя Intel Xeon Platinum 8558 по 48 ядер.
Для обмена данными между узлами кластера установлены восемь адаптеров NVIDIA ConnectX-7 400G. Системная память - 2 ТБ из 32 модулей RDIMM 5600 по 64 ГБ, локальные данные хранятся на четырех U.2 NVMe Gen4 по 3,84 ТБ, система - на зеркале BOSS-N1 из двух M.2 по 960 ГБ.
- GPU
- 8 x NVIDIA H200 SXM5
- Процессоры
- 2 x Xeon Platinum 8558
- Память
- 2 ТБ RDIMM
Особенности
8 GPU H200
Платформа HGX H200 с восемью ускорителями SXM5 рассчитана на обучение больших моделей и инференс с высокой пропускной способностью.
Сеть 8 x 400G
Восемь адаптеров ConnectX-7 400G позволяют объединять серверы в кластер для распределенного обучения.
96 ядер CPU
Два Xeon Platinum 8558 готовят данные для GPU и обслуживают сопутствующие задачи.
Основные характеристики
| Параметр | Значение |
|---|---|
| Серия | PowerEdge XE9680 |
| Процессоры | 2 x Intel Xeon Platinum 8558, 48 ядер, 2,1 ГГц |
| Ускорители | NVIDIA HGX H200, 8 GPU SXM5 |
| Оперативная память | 32 x 64 ГБ RDIMM 5600 |
| Накопители | 4 x 3,84 ТБ U.2 NVMe Gen4 |
| Загрузочный модуль | BOSS-N1, 2 x M.2 960 ГБ, RAID 1 |
| Сетевые адаптеры | 8 x NVIDIA ConnectX-7 400G |
| Шифрование | Без шифрования (No Crypto) |
| Назначение | Обучение и инференс моделей ИИ |
| Исполнение | Сервер с GPU |
Хранение и загрузка
Четыре накопителя U.2 NVMe Gen4 по 3,84 ТБ служат быстрым локальным хранилищем для наборов данных и контрольных точек обучения. Операционная система ставится на модуль BOSS-N1 с двумя M.2 960 ГБ в RAID 1.
Применение
Предназначен для обучения и дообучения больших языковых моделей, генеративного ИИ, научных расчетов и инференса в составе GPU-кластера.
Комплектация
- Сервер PowerEdge XE9680 с HGX H2001 шт.
- Накопитель U.2 NVMe 3,84 ТБ4 шт.
- Модуль BOSS-N1 с M.2 960 ГБ1 компл.
- Адаптер NVIDIA ConnectX-7 400G8 шт.






