Инфраструктура ИИ NVIDIA и подготовка к NCA-AIIO

4 участника

О чём курс

О чём курс

Ашиш Праджапати (Ashish Prajapati) разбирает аппаратные и программные компоненты вычислительной инфраструктуры NVIDIA для систем искусственного интеллекта и готовит слушателей к прохождению сертификационного экзамена NCA-AIIO (NVIDIA Certified Associate: AI Infrastructure & Operations). Материал охватывает устройство аппаратных платформ, организацию межсерверных коммуникаций, системы хранения, принципы виртуализации ускорителей и управление рабочими процессами машинного обучения.

Курс детально рассматривает архитектуру дата-центров, ориентированных на ресурсоёмкие вычисления и генеративный ИИ. Вы изучите различия в архитектуре центральных процессоров (CPU), графических ускорителей (GPU) и блоков обработки данных (DPU), а также подходы к распределению энергии и сетевой связности внутри вычислительного кластера.

Что внутри

Темы распределены по уровням технологического стека NVIDIA:

  • Аппаратный фундамент: линейка графических процессоров, серверные системы DGX, кластерные комплексы DGX SuperPOD, сетевые адаптеры ConnectX и процессоры обработки данных BlueField DPU.
  • Передача данных и сетевой стек: шина NVLink, сетевая фабрика InfiniBand, протокол RoCE (Converged Ethernet), технологии прямого доступа к памяти GPUDirect RDMA и GPUDirect Storage.
  • Системный уровень и виртуализация: архитектура драйверов, разделение вычислительных мощностей с использованием vGPU и технологии аппаратного секционирования MIG (Multi-Instance GPU).
  • Библиотеки и вычисления: архитектура CUDA, её установка и библиотека коллективных коммуникаций NCCL для параллельных вычислений на нескольких GPU.
  • Мониторинг и администрирование: утилита командной строки NVIDIA-SMI, сервис сбора телеметрии Data Center GPU Manager (DCGM) и инструменты Base Command Manager.
  • Организация рабочих процессов: распределение задач между фазами обучения и инференса моделей, сопоставление диспетчера Slurm и оркестратора Kubernetes, внедрение практик MLOps, а также экосистемы NVIDIA AI Enterprise и концепция AI Factory.

Для кого

Материал предназначен для системных администраторов, DevOps-специалистов, IT-инженеров и начинающих специалистов по AI-инфраструктуре. Для начала обучения предварительный практический опыт работы с кластерами искусственного интеллекта не требуется. Достаточно базового понимания устройства серверного оборудования, сетевых протоколов и корпоративных IT-систем.

Формат и язык

Курс записан на английском языке. Программа состоит из 6 разделов и включает 72 лекции общей продолжительностью 4 часа 40 минут.

Об авторе

Ашиш Праджапати — технический специалист из Лондона, работающий в сфере серверной виртуализации и миграции инфраструктуры в облачные платформы.

Программа обучения

Модуль 1 Движущие силы эволюции ИИ Сценарии применения ИИ в различных отраслях ИИ, МО, ГО, Генеративный ИИ Аналогия для ИИ, МО, ГО, Генеративного ИИ Модель Transformer Модуль 2 — Внутри центра обработки данных на базе ИИ Внутри центра обработки данных на базе ИИ Эффективность использования энергии (PUE) Вычислительная мощность ЦП и ГП ЦП против ГП — Архитектурные различия За пределами закона Мура Блок обработки данных (DPU) Сеть внутри центра обработки данных на базе ИИ Сетевая инфраструктура Ethernet против InfiniBand Конвергентный Ethernet (CE) Хранилище внутри центра обработки данных на базе ИИ Облако против локальных решений (On-Prem) Модуль 3 — Технологический стек NVIDIA NVIDIA: Движущая сила инноваций GPU для ИИ Технологический стек NVIDIA Уровень 1 — Физический уровень GPU на графической карте Платформа DGX DGX SuperPOD ConnectX BlueField DPUs Референсные архитектуры NVIDIA Понимание ядер GPU Сравнение ядер GPU Платформа NVIDIA DGX — Хронология Платформа DGX — Варианты развертывания DGX A100 против H100 Уровень 2: Перемещение данных и ускорение ввода-вывода (I/O) NVLink InfiniBand InfiniBand против Ethernet DMA и RDMA GPUDirect RDMA GPUDirect Storage Краткое сравнение Уровень 3: ОС, драйвер и виртуализация Драйверы GPU Виртуализация GPU vGPU против MIG - Часть 1 vGPU против MIG - Часть 2 Уровень 4: Основные библиотеки Единая архитектура вычислительных устройств (CUDA) Установка CUDA Библиотека коллективных коммуникаций NVIDIA (NCCL) NVLink, NVSwitch, PCIe, RDMA против NCCL Уровень 5: Мониторинг и управление NVIDIA-SMI Менеджер GPU центра обработки данных (DCGM) Base Command Manager Что использовать? Уровень 6: Приложения и отраслевые решения Резюме NVIDIA AI Enterprise: (ИИ-решения NVIDIA для предприятий) NVIDIA AI Factory (Фабрика ИИ NVIDIA) Модуль 4 — Рабочие процессы ИИ Рабочие процессы ИИ Фреймворки машинного обучения Ключевое отличие NVIDIA Обучение моделей против Вывода моделей (Inference) Планирование заданий против Оркестрации контейнеров Slurm против Kubernetes Интеграция NVIDIA MLOps — Аналогия Почему MLOps? Инструменты NVIDIA для поддержки MLOps

Складчина создана 10 апреля 2026 г. · описание обновлено 25 октября 2026 г.

Теги курса

Инструменты
1 500 ₽