Освоение управления API для генеративного ИИ в Azure

О чём курс

Houssem Dellai разбирает настройку, оптимизацию и защиту больших языковых моделей (LLM) с помощью облачной службы Azure API Management. Автор показывает, как развернуть шлюз для сервисов вроде Azure OpenAI, централизованно управлять вызовами и распределять входящие запросы между несколькими ресурсами.

В практических примерах настраиваются политики ограничения токенов, аутентификация клиентов и семантическое кэширование, которое снижает время отклика и расходы на повторные запросы. Отдельное внимание уделено надежности: разбираются шаблоны повторных попыток (retry) и прерывателей цепи (circuit breaker), а также экспорт метрик и ведение журналов для наблюдения за поведением API.

Безопасность и корпоративная интеграция

Значительная часть материала отведена изоляции сетевого контура корпоративных систем. Автор демонстрирует, как настроить частные конечные точки (private endpoints) для защиты точек входа API Management и безопасного подключения к службам искусственного интеллекта без прямого доступа из публичного интернета.

Такой подход позволяет встроить генеративный искусственный интеллект в существующие корпоративные приложения с соблюдением требований информационной безопасности и контролируемым расходом квот.

Кому подойдёт

Материал рассчитан на технических специалистов, интегрирующих большие языковые модели в рабочие процессы:

• разработчиков API;
• архитекторов облачных решений;
• специалистов по машинному обучению и искусственному интеллекту;
• инженеров по информационной безопасности;
• технических руководителей.

Требования к подготовке

Для повторения практических шагов потребуются:

• базовое понимание принципов работы API;
• опыт взаимодействия с платформой Azure;
• начальные навыки написания кода на Python;
• активная подписка Azure.

Формат материалов

Курс включает 23 лекции общей продолжительностью 2 часа 14 минут, распределенные по 7 тематическим блокам. Видеозаписи представлены на английском языке с добавлением русской аудиодорожки.