Ollama и локальные LLM: настройка, развертывание и создание приложений ИИ на Python

16 участников

О чём курс

Курс «Build Private AI on Your PC» — это комплексное руководство по созданию и развертыванию полноценных систем искусственного интеллекта непосредственно на вашем персональном компьютере. Программа разработана для тех, кто стремится к полной конфиденциальности данных и хочет выйти за рамки использования облачных API, создавая собственные локальные решения. В ходе обучения вы пройдете путь от базовой интеграции LLM до глубокого понимания архитектуры нейросетей и их тонкой настройки.

Курс охватывает широкий спектр технологий: от работы с Ollama и создания интерактивных интерфейсов на Streamlit до продвинутых техник RAG (Retrieval-Augmented Generation) и использования агентов CrewAI. Вы научитесь интегрировать мультимодальные возможности, включая обработку изображений, транскрипцию видео с помощью Whisper и анализ аудиоданных. Особое внимание уделено работе с LangChain, созданию семантического поиска на базе вложений (embeddings) и управлению памятью моделей. Вы узнаете, как эффективно разделять длинные тексты, создавать персональные базы знаний и автоматизировать сложные задачи с помощью автономных агентов.

Важной частью курса является блок по работе с Hugging Face и Unsloth. Вы не просто научитесь запускать готовые модели, но и поймете, как работают параметры нейросетей, токенизаторы и механизмы вероятностного выбора токенов. Практический раздел по фин-тюнингу (Fine-Tuning) с использованием QLoRA позволит вам адаптировать небольшие модели под конкретные задачи, избегая при этом проблем с «забыванием» знаний. Вы научитесь объединять адаптеры LoRA, проводить валидацию и экспортировать свои наработки в экосистему Ollama.

Финальным аккордом обучения станет создание полноценного итогового проекта — локального помощника по программированию, функционально близкого к популярным решениям вроде Cursor. Этот инструмент будет включать в себя возможности чата с историей, планирования задач, веб-поиска, анализа и исправления кода, а также интеграцию с файловой системой для контекстного понимания проекта.

Курс идеально подходит для Python-разработчиков, студентов и энтузиастов, желающих собрать портфолио из реальных приложений. Вы научитесь устранять неполадки в работе с GPU, оптимизировать использование дискового пространства и создавать профессиональные инструменты, работающие полностью офлайн. Это глубокое погружение в современный стек локального ИИ, которое даст вам полный контроль над вашими данными и вычислительными мощностями.

Программа обучения

Введение Не стесняйтесь задавать вопросы Ollama 1 Загрузка и использование OLLAMA 7:11 2 Использование Ollama с Python 7:05 3 Использование Streamlit 5:53 4 Интеграция модели LLM в Streamlit 6:37 5 Использование функции Exac для запуска кода в строковом типе 5:41 6 Получение результата функции Exac в качестве переменной 4:25 7 Создание инструмента для изучения Python с помощью Ollama 21:31 8 Заставить Ollama описать изображение 5:58 9 Создать страницу с описанием изображений в Streamlit 7:19 10 Описать несколько изображений 6:06 11 Разбить видео на кадры 11:52 12 Создать инструмент для описания видео 14:31 13 Общаться с PDF-файлом с помощью LLM Ollama 10:35 Langchain 15 Использование локального LLM с Langchain 3:08 16 Использование PromptTemplate и LLMChain 5:19 17 Использование 4 входных переменных в шаблоне 6:00 18 Изучение фрагментации длинных текстов 20:48 19 Получение эмбедингов и оценка схожести двух текстов 13:04 20 Поиск наиболее похожего предложения в тексте 12:10 21 Получение ответов модели на вопросы по длинным рассказам 16:39 22 Общение с вашими заметками 16:33 23 Общение с вашим дневником CrewAI 24 Создание виртуальной среды в PowerShell 9:38 25 Использование локальной модели Ollama LLM с CrewAI 6:48 26 Написание сценариев с помощью CrewAI и Ollama 8:43 27 Генератор рецептов и анализатор питательной ценности 6:38 28 Планировщик маршрутов путешествий 3:49 29 Консультант по личным финансам HuggingFace 30 Введение в HuggingFace 5:33 31 Загрузка и удаление моделей HuggingFace 16:55 32 Разумение ключевых параметров моделей (temperature, top_k, top_p) 39:19 33 Использование модели «Текст в речь» 22:53 34 Использование модели «Текст в изображение» 17:59 35 Использование модели «Текст в видео» 46:44 36 Использование модели «Изображение в видео» Тонкая настройка моделей большого языкового обучения (LLM) 37 Введение в Unsloth 7:29 38 Что такое параметры и как работает ИИ 31:43 39 Как параметры LLM хранятся в памяти 39:46 40 Как работает токенизатор 25:25 41 Встраивание входных данных 13:39 42 Что происходит в рамках сквозной модели и добавление позиции к векторам 13:24 43 Как модель выбирает токены с учётом вероятностей 30:57 44 Изучение сквозной настройки 53:55 45 Использование обученной модели 7:56 46 Загрузка модели на сайт Ollama 22:24 47 Делитесь своими настроенными моделями с другими на Udemy Инструмент для программирования с локальной поддержкой LLM, похожий на Cursor 48 Введение в локальный инструмент для программирования с поддержкой LLM 17:53 49 Инструмент может объяснять код 9:31 50. Легко исправлять ошибки 6:27 51 Инструмент запоминает историю чата 11:28 52 Попробуем создать игру «Змейка» 11:53 53 Инструмент может заниматься планированием и поиском информации в Интернете 23:16 54 Сохраняем текущие файлы в виде фрагментов кода и вставляем в чат наиболее похожие фрагменты 33:45 55 Ссылаемся на существующий файл, добавляем изображение в чат, возвращаемся к предыдущему коду 17:38 56 Создайте генератор субтитров с помощью локального инструмента для программирования с поддержкой LLM 1:55:15 57 Жду ваших предложений по поводу этого инструмента 14:17 58 Приложение для языковой практики

Складчина создана 28 июля 2026 г. · описание обновлено 2 августа 2026 г.

Теги курса

Инструменты
482 ₽ 2 000 ₽