Создание виртуального дата-центра с GPU

Виртуальный дата-центр (VDC) — виртуальные ресурсы вычислительной инфраструктуры, такие как серверы, сетевое оборудование, системы хранения данных.

GPU — графические процессоры, которые используются для:

• анализа и обработки больших данных;
• машинного и глубокого обучения ИИ;
• ускорения сложных вычислений;
• трёхмерного моделирования и визуализации графики в высоком разрешении.

T1 Облако предоставляет графические ускорители NVIDIA H100 (на базе процессора AMD EPYC 9374F 32C 3.85 ГГц) с микроархитектурой Hopper.

Чтобы заказать NVIDIA H100, обратитесь к своему sales-менеджеру. После этого создайте виртуальный дата-центр с GPU:

1. В главном меню портала перейдите в раздел Ресурсы → Cloud Director.

2. Нажмите на кнопку в строке с организацией, в которой нужно создать виртуальный дата-центр с GPU.

   Важно

   VMware-организация, в которой нужно создать виртуальный дата-центр с GPU, должна быть создана в зоне доступности AZ2-DC4-RTK-Moscow-VI (присутствует GPU).

3. Нажмите на кнопку Создать Виртуальный дата-центр и выберите Виртуальный дата-центр с GPU.
4. Заполните поля:

Создание виртуального дата-центра VMware:

• Имя виртуального дата-центра * — уникальное имя виртуального дата-центра в рамках проекта.

   Требования к имени

  1. Длина имени — от 4 до 64 символов.
  2. Может содержать заглавные и строчные буквы латинского алфавита, цифры, дефисы и символы нижнего подчёркивания.
• Профиль оборудования — технические характеристики процессора;
• Модель управления ресурсами * — оплата за фиксированный объём ресурсов (Allocation Pool (Flex));

• Видеокарта (GPU), шт — количество видеокарт NVIDIA H100, от 1 до 32.

   Конфигурации видеокарт (GPU)

  Для 1 виртуальной машины можно заказать от 1 до 32 штук NVIDIA H100.

  Количество GPU, шт.	vCPU, шт.	vCPU, ГГц	RAM, ГБ	Диск, ГБ (минимально допустимый объём)
  1	8	30,8	152	200
  2	16	61,6	304	400
  3	24	92,4	456	600
  4	32	123,2	608	800
  5	40	154	760	1000
  6	48	184,8	912	1200
  7	56	215,6	1064	1400
  8	64	246,4	1216	1600
  9	72	277,2	1368	1800
  10	80	308	1520	2000
  11	88	338,8	1672	2200
  12	96	369,6	1824	2400
  13	104	400,4	1976	2600
  14	112	431,2	2128	2800
  15	120	462	2280	3000
  16	128	492,8	2432	3200
  17	136	523,6	2584	3400
  18	144	554,4	2736	3600
  19	152	585,2	2888	3800
  20	160	616	3040	4000
  21	168	646,8	3192	4200
  22	176	677,6	3344	4400
  23	184	708,4	3496	4600
  24	192	739,2	3648	4800
  25	200	770	3800	5000
  26	208	800,8	3952	5200
  27	216	831,6	4104	5400
  28	224	862,4	4256	5600
  29	232	893,2	4408	5800
  30	240	924	4560	6000
  31	248	954,8	4712	6200
  32	256	985,6	4864	6400

Виртуальный процессор (vCPU), Core * и Оперативная память (RAM), Gb * указываются автоматически: для 1 видеокарты требуется 8 vCPU и 152 ГБ оперативной памяти.

Дисковая подсистема:

• Профиль оборудования * — технические характеристики дисков:
  • SP-High — тип диска SSD. ~7 IOPS/GB Write, ~15 IOPS/GB Read;
  • SP-Standart — тип диска HDD 10K. ~0,08 IOPS/GB Write, ~0,16 IOPS/GB Read.
    IOPS — операции чтения и записи. Чем больше проводится операций чтения, тем меньше операций записи, и наоборот. При выполнении операций расходуется один и тот же дисковый ресурс;
• Лимит, Гб * — ёмкость дискового пространства. Для одной видеокарты требуется 200 ГБ, для двух — 400 ГБ и т.д. Это место будет занято системными данными, если профиль оборудования используется как основной. Если вы хотите хранить свои данные, то укажите ещё больше ГБ;
• Использовать как основной * — профиль оборудования, который будет использоваться при создании vApp (контейнера, где размещаются виртуальные машины) или VM (виртуальной машины) на портале VMware Cloud Director.

Кнопка Добавить профиль оборудования добавляет ещё одно дисковое пространство. 

Активируйте переключатель Создать маршрутизатор (Edge), чтобы у виртуального дата-центра c GPU был доступ к сети Интернет.

Конфигурация маршрутизатора (Edge):

• Доступ к сети Интернет — флажок установлен по умолчанию, маршрутизатор создаётся с автоматическим доступом к сети Интернет. При создании маршрутизатора резервируется публичный IP-адрес, который можно посмотреть на вкладке Общая информация в столбце Имя внешнего сетевого интерфейса;
• Лимит пропускной способности канала, Мбит/сек *  — лимит скорости обмена данными.
  

Маршрутизатор создаётся с конфигурацией Compact — 1 vCPU, 512 MB vRAM. Он применяется для небольших вычислительных сред с малым количеством сервисов.

5. Нажмите на кнопку Заказать.

Созданный виртуальный дата-центр с GPU отображается на портале:

6. После создания виртуального дата-центра с GPU:

   a. Войдите в VMware-организацию через платформу VMware Cloud Director.

   b. Создайте виртуальную машину из шаблона, который соответствует количеству видеокарт, указанному при создании виртуального дата-центра с GPU.

Чтобы посмотреть подробную информацию о виртуальном дата-центре с GPU, нажмите на кнопку в строке с нужным виртуальным дата-центром с GPU. Откроется страница с информацией о виртуальном дата-центре с GPU:   

• на вкладке Общая информация отображаются основные параметры виртуального дата-центра, маршрутизатора и внешнего сетевого интерфейса;
• на вкладке История действий указаны действия пользователя с виртуальным дата-центром.

Для виртуального дата-центра с GPU можно изменить конфигурацию, параметры дисковой подсистемы, а также удалить его. Подробнее см. раздел Действия с виртуальным дата-центром с GPU.

В маршрутизаторе можно проверить конфигурацию, изменить лимит пропускной способности, зарезервировать дополнительные IP-адреса. Подробнее см. раздел Действия с маршрутизатором.