Прикладной LLM для инженеров

О чём практикум

Василий Озеров разбирает прикладную LLM-инженерию: запуск моделей на собственном оборудовании, настройку их поведения, поиск по своим данным и создание агентов. Вы пройдёте путь от архитектуры и инференса до RAG, Function Calling, MCP и сборки рабочих цепочек с LlamaIndex, LangChain и N8N. Отдельное внимание уделено выбору между облачным API и самостоятельным размещением модели, расходу видеопамяти и стоимости эксплуатации.

Для запуска и оптимизации моделей рассматриваются серверы инференса, квантизация, LoRA и QLoRA. RAG связывает модель с документацией и базами знаний через векторный поиск; агенты используют вызовы функций для действий во внешних системах. В практикуме также обсуждают промпты, безопасность, ошибки ответов моделей и работу с облачными сервисами.

Кому подойдёт

DevOps- и SRE-специалистам пригодятся темы развёртывания, масштабирования и мониторинга LLM-инфраструктуры, включая работу с vLLM. Аналитики данных смогут перейти от экспериментов к настройке моделей и построению RAG-систем. Backend-разработчикам адресованы интеграция LLM в приложения, векторные базы, API и агенты; IT-архитекторам — выбор инструментов и схемы системы.

Как устроена работа

Практикум охватывает локальный запуск на ноутбуке и использование облачных моделей, затем переходит к настройке, поиску по данным и оркестрации. В темах есть прототипирование цепочек в N8N и создание MCP-серверов. Rebrain проводит практикумы по инфраструктуре с 2018 года; эксперт практикума Василий Озеров — сооснователь сообщества.