LLM-разработчик

LLM-приложения в Yandex AI Studio/Google AI Studio

• Управление поведением LLM
• Научитесь управлять поведением модели через системные инструкции и контекст
• Разберётесь, как формируются ответы и от чего зависит качество генерации
• Изучите ограничения языковых моделей и способы их обхода
• Поймёте, как делать ответы предсказуемыми и соответствующими бизнес-задаче
• Работа с данными и контекстом
• Освоите передачу внешних данных в модель через контекст
• Реализуете ручной RAG без использования специализированных фреймворков
• Научитесь работать с trusted и untrusted данными
• Разберёте риски утечки информации и некорректного использования контекста
• Структурированные ответы и интеграции
• Научитесь получать ответы в JSON и других структурированных форматах
• Освоите Structured Output для интеграции с приложениями и сервисами
• Изучите Function Calling и Tool Calling для взаимодействия модели с внешними системами
• Познакомитесь с возможностями MCP для подключения инструментов и данных
• Агенты и автоматизация процессов
• Создадите AI-агентов в Yandex AI Studio
• Научитесь строить многошаговые сценарии и workflow-процессы
• Разберёте координацию действий модели и внешних инструментов
• Поймёте, как автоматизировать выполнение сложных пользовательских задач
• Надёжность и безопасность LLM-систем
• Реализуете fallback-сценарии для обработки ошибок и нестандартных ситуаций
• Изучите механизмы gates и контроля выполнения действий модели
• Разберёте атаки prompt injection и способы защиты от них
• Освоите подходы к построению безопасных AI-приложений
• Оценка качества и Human-in-the-Loop
• Научитесь оценивать качество ответов языковых моделей
• Освоите ручные методы тестирования AI-систем
• Разберёте роль человека в принятии решений и проверке результатов модели
• Поймёте, как организовать процесс постоянного улучшения AI-приложений
• Проект «AI Help Desk Agent»
• Создадите интеллектуального агента поддержки пользователей, который сможет обрабатывать обращения, находить решения в базе знаний и автоматически создавать тикеты во внешних системах
• Спроектируете архитектуру AI-агента и настроите его поведение под задачи службы поддержки
• Реализуете поиск и использование знаний компании для подготовки точных ответов пользователям
• Настроите многошаговый диалог: классификацию запросов, уточнение деталей и генерацию решений
• Подключите внешние инструменты через MCP и автоматизируете создание тикетов в системе поддержки
• Добавите механизмы контроля качества, безопасности и обработки нестандартных сценариев
• Подготовите AI-сервис, готовый к использованию в реальных бизнес-процессах

LLM API и RAG в приложении

• Интеграция LLM через API
• Научитесь подключать облачные языковые модели к собственным приложениям
• Освоите работу с prompts, messages и параметрами генерации
• Разберёте streaming-ответы, structured output и обработку ошибок API
• Научитесь строить надёжное взаимодействие с LLM в production-среде
• Проектирование AI-функциональности
• Освоите генерацию структурированных данных и валидацию результатов
• Научитесь управлять качеством ответов и бизнес-логикой приложения
• Разберёте повторную генерацию отдельных полей и обработку неполных данных
• Поймёте, как проектировать AI-функции для реальных пользовательских сценариев
• Подготовка данных для RAG
• Научитесь загружать и обрабатывать документы различных форматов
• Освоите извлечение текста из PDF, DOCX, таблиц и технических спецификаций
• Разберёте очистку, нормализацию и разбиение данных на чанки
• Поймёте, как подготовить корпоративные данные для работы с LLM
• Векторный поиск и Retrieval
• Изучите embeddings и принципы семантического поиска
• Освоите хранение данных в PostgreSQL и pgvector
• Научитесь находить релевантную информацию среди тысяч документов
• Разберёте полный цикл построения Retrieval-системы для AI-приложений
• Построение RAG-систем
• Научитесь собирать контекст для модели на основе найденных документов
• Освоите prompt templates и методы снижения hallucinations
• Реализуете ссылки на источники и контроль происхождения данных
• Поймёте, как создавать AI-системы, работающие на корпоративных знаниях
• Production-практики для AI-приложений
• Научитесь контролировать стоимость и потребление токенов
• Освоите логирование запросов и оценку качества генерации
• Разберёте вопросы безопасности документов и API-ключей
• Поймёте, как проектировать надёжные AI-сервисы для реального бизнеса
• Проект «ИИ-генератор карточек товара»
• Создадите AI-сервис для автоматического создания карточек товаров на основе документов поставщиков. Пользователь загружает спецификации, каталоги и технические описания, а система самостоятельно извлекает данные, находит релевантную информацию и формирует готовую карточку товара
• Реализуете полный RAG-конвейер от загрузки документов до генерации результата
• Настроите извлечение, обработку и векторизацию данных из файлов поставщиков
• Построите семантический поиск на базе PostgreSQL и pgvector
• Реализуете генерацию структурированных карточек товаров через LLM API
• Добавите ссылки на источники, уровень уверенности и выявление недостающих данных
• Настроите логирование, контроль качества генерации и мониторинг стоимости запросов

Hermes, MCP и бизнес-действия

• Агентные системы и оркестрация через Hermes
• Научитесь превращать отдельные LLM-функции в полноценные агентные системы
• Освоите Hermes как оркестратор для управления AI-сценариями
• Разберёте маршрутизацию запросов, управление состоянием и многошаговые процессы
• Поймёте, как строятся корпоративные AI-агенты для автоматизации бизнес-задач
• Интеграция с бизнес-системами через MCP
• Освоите MCP как универсальный слой взаимодействия с внешними сервисами
• Научитесь подключать CRM, биллинги, базы данных и внутренние системы
• Разберёте проектирование MCP-серверов и контрактов инструментов
• Изучите работу с read/write-инструментами и обменом данными между системами
• Управление действиями и бизнес-логикой
• Научитесь создавать агентные workflow для реальных бизнес-процессов
• Освоите маршрутизацию сценариев и принятие решений на основе контекста
• Разберёте механизмы подтверждения действий и контроль рискованных операций
• Поймёте, как безопасно автоматизировать действия пользователя через AI
• Безопасность и контроль доступа
• Освоите разграничение прав и управление разрешениями
• Научитесь ограничивать набор доступных инструментов и операций
• Разберёте защиту MCP-инструментов и работу с чувствительными данными
• Изучите механизмы identity, audit log и контроля действий пользователей
• Надёжность и наблюдаемость агентных систем
• Научитесь обрабатывать ошибки внешних сервисов и нестабильных интеграций
• Освоите retries, idempotency и устойчивость к повторным вызовам
• Разберёте observability, tool call tracing и мониторинг агентных сценариев
• Поймёте, как поддерживать стабильную работу AI-систем в production
• Эксплуатация и production-ready AI
• Освоите деплой агентных приложений и настройку окружений
• Научитесь безопасно хранить секреты и управлять конфигурацией
• Разберёте контроль стоимости, latency и ограничений внешних сервисов
• Поймёте, как запускать агентные решения в промышленную эксплуатацию
• Проект «ИИ-ассистент для телекома»
• Создадите интеллектуального AI-оператора для сайта мобильного оператора связи. Агент сможет не только отвечать на вопросы пользователей, но и выполнять реальные действия через интеграцию с внутренними бизнес-системами компании
• Построите агентную систему на базе Hermes и облачной LLM
• Подключите бизнес-системы оператора через MCP-инструменты
• Реализуете сценарии просмотра и изменения данных абонента
• Настроите безопасное выполнение бизнес-действий с подтверждением операций
• Добавите контроль прав доступа, аудит действий и обработку ошибок внешних сервисов
• Подготовите production-ready AI-агента для автоматизации клиентской поддержки

Корпоративные решения: On-premise и локальные LLM

• Локальные LLM и open-source экосистема
• Разберётесь, чем локальные модели отличаются от облачных сервисов
• Изучите современные open-source модели и сценарии их применения
• Освоите Ollama, LM Studio, llama. cpp и другие инструменты локального запуска
• Поймёте, когда бизнесу выгоднее использовать локальную инфраструктуру вместо облачных провайдеров
• Развертывание и эксплуатация моделей
• Научитесь запускать модели на собственных серверах и рабочих станциях
• Освоите model serving и OpenAI-compatible API
• Разберёте работу CPU и GPU inference
• Изучите влияние RAM, VRAM, дисковой подсистемы и нагрузки на производительность системы
• Оптимизация производительности и стоимости
• Научитесь выбирать подходящие модели под конкретные задачи
• Освоите quantization, batching и streaming
• Разберёте метрики latency, throughput и tokens per second
• Поймёте, как балансировать качество, скорость и стоимость владения инфраструктурой
• Интеграция локальных моделей с Hermes
• Подключите локальные модели к агентным сценариям Hermes
• Научитесь заменять облачные модели без изменения бизнес-логики приложения
• Освоите маршрутизацию запросов между различными моделями
• Разберёте построение гибридных AI-архитектур
• Разработка AI-систем для чувствительных данных
• Изучите подходы к работе с конфиденциальной информацией
• Освоите local-first архитектуру для корпоративных сценариев
• Научитесь ограничивать передачу данных во внешние сервисы
• Разберёте требования безопасности, аудита и соответствия корпоративным политикам
• Гибридные AI-архитектуры и production-практики
• Реализуете fallback между локальными и облачными моделями
• Научитесь выбирать оптимальную модель под каждый тип запроса
• Освоите мониторинг, логирование и сопровождение локального inference
• Поймёте, как строить надёжные AI-системы промышленного уровня
• Проект «ИИ-ассистент для банка»
• Создадите корпоративного AI-агента для банковского приложения, который работает внутри защищённого контура компании и помогает клиентам получать информацию по продуктам, анализировать операции и выполнять разрешённые действия через интеграцию с внутренними банковскими системами
• Развернёте локальную LLM и подключите её к агентной платформе Hermes
• Реализуете безопасную работу с банковскими данными без передачи информации внешним провайдерам
• Настроите интеграцию с внутренними системами через MCP-инструменты
• Реализуете сценарии просмотра информации и выполнения банковских операций
• Добавите контроль прав доступа, подтверждение рискованных действий и аудит операций
• Построите гибридную архитектуру с возможностью переключения между локальными и облачными моделями