LLM System Design. Научитесь создавать LLM-системы

Денис Солдатов, Артём Бардаков, Александр Абугалиев и Азер Шахвердиев разбирают проектирование LLM-систем: поиск по базе знаний, клиентский саппорт, речевую аналитику и работу агентов. Вы соберёте прототипы сервисов и разберётесь, как распределять нагрузку, отслеживать метрики и улучшать работу приложений.

Для кого

Курс рассчитан на DL-инженеров, ML-инженеров, аналитиков и backend-разработчиков, которые планируют строить LLM-системы или уже работают с ними. DL-инженеры разберут архитектуру сервиса целиком, от входной нагрузки до мониторинга. ML-инженеры и аналитики смогут глубже понять устройство LLM-приложений, а backend-разработчики — выбор моделей, векторный поиск, трейсинг и взаимодействие с ML/DL-командой.

Как устроено обучение

В программе четыре проекта и 11 лекций. Для каждого проекта преподаватели разбирают архитектуру и вместе с участниками собирают работающий прототип на лекциях и семинарах. На вводной встрече обсуждают формат, проекты и домашние задания.

Что разберёте

В работе с базой знаний вы пройдёте от простого RAG к гибридному поиску и Page Index; курс также охватывает рост нагрузки от 1 до 100 RPS. Для клиентского саппорта разбирают балансировку нагрузки, классификацию интента, поиск ответа, генерацию, передачу запроса оператору и защитные ограничения. Качество работы сервисов отслеживают через метрики, трейсинг и LLM-observability.

Вы развернёте собственную LLM на vLLM или SGLang с квантованием и автоскейлом. В речевой аналитике соберёте офлайн-пайплайн из распознавания речи, диаризации и LLM-анализа со структурированным JSON-выходом для дашбордов. Для агентских систем разберёте tools, MCP, ReAct, память и sandbox, сравните подходы с Cursor, Claude Code и Hermes и соберёте агента на семинаре. Также курс охватывает настройку окружения для работы кодинг-агентов над проектом.

Что нужно знать

Понадобятся уверенный Python, включая async/await, классы и типизацию, а также опыт работы с REST API, HTTP-запросами, обработкой ошибок и JSON. Нужно понимать, что такое токен, эмбеддинг и prompt, и иметь опыт использования агентов или LLM-чата. Знания DL и ML не обязательны.

Преподаватели

Денис Солдатов — backend-разработчик; он покажет настройку окружения для кодинг-агента. Артём Бардаков ранее был техлидом робота Макса на Госуслугах и разберёт задачу клиентского саппорта.

Александр Абугалиев внедряет RAG в сервисы компании и расскажет о создании работающего поиска по базе знаний. Азер Шахвердиев руководит NLP-лабораторией в Контуре; его темы — self-host LLM и LLM-observability в рабочих сервисах.