Разработка ИИ агентов

О чём курс

София Филиппова и Виктор Ведмич на курсе от школы Slurm разбирают создание ИИ-агентов для решения DevOps-задач: от базового LLM-враппера до мультиагентных систем с мониторингом и выкаткой в продакшен. Обучение длится 10 недель и сосредоточено вокруг инженерных практик, интеграции софта и доведения сервисов до рабочего окружения.

Основной упор сделан на преодоление сложностей промышленной эксплуатации: контейнеризацию решений, контроль расходов на API, борьбу с галлюцинациями моделей на реальных данных и настройку CI/CD с автоматическими тестами.

Кому подойдёт

Материал ориентирован на специалистов, которые уже администрируют или разрабатывают инфраструктуру:

• DevOps- и SRE-инженеры, планирующие автоматизировать разбор инцидентов, диагностику через kubectl и Docker, а также отслеживать стоимость LLM-запросов.
• Бэкенд-разработчики на Python, желающие освоить прикладную ИИ-инженерию через привычный инструментарий: SDK, фреймворки, врапперы и тесты.

Для старта не требуются глубокие знания академического ML или data science: достаточно уметь читать и дорабатывать код на Python, запускать контейнеры в Docker, работать в терминале Linux или macOS и понимать принципы HTTP API и клиент-серверной архитектуры. Опыт взаимодействия с Kubernetes или облачными сервисами облегчит прохождение программы.

Что внутри

Программа выстроена как инженерный трек: от базовых компонентов до архитектурно законченных решений. Вы разберёте:

• Оркестрацию и протоколы взаимодействия. Агенты собираются с помощью LangGraph и CrewAI, а подключение инструментов и сервисов настраивается через FastMCP с авторизацией по JWT и песочницами.
• Тестирование и наблюдаемость. Авторы показывают, как выстроить пайплайны оценки качества ответов с DeepEval и Agent-as-Judge, запустить eval-тесты в GitHub Actions и развернуть self-hosted инстанс Langfuse для трейсинга сессий.
• Безопасность и контроль бюджета. Рассматриваются аудит по стандарту OWASP LLM Top 10, защита от prompt injection и уязвимостей в MCP-серверах, а также оптимизация расходов с помощью семантического кеширования, сжатия промптов и маршрутизации запросов в LiteLLM.

Практика и итоговый проект

Практическая часть ориентирована на написание рабочего кода и его оформление в продакшен-формате. В ходе обучения предстоит настраивать вызовы инструментов, поднимать шлюзы LiteLLM, создавать кастомные MCP-серверы для Docker и Kubernetes, а также настраивать конвейеры проверки в CI.

Финальным результатом становится готовый репозиторий на GitHub. На выбор предлагается три сценария реализации: Incident Response, K8s Troubleshooter или Infra Code Reviewer. Проект включает код мультиагентной системы, архитектурную схему Mermaid в файле README, набор eval-тестов в CI, настроенный мониторинг в Langfuse и десятиминутное демонстрационное видео.

Инструменты курса

В процессе работы используются:

• LangGraph, FastMCP, LiteLLM и CrewAI;
• DeepEval и Langfuse v3;
• Docker, Helm и GitLab API;
• Loki, ELK, Prometheus и Grafana;
• локальные LLM, n8n, кастомные RAG-боты и MCP-брокер.