Локальные LLM через Ollama и LM Studio — Практическое руководство
О чём курс
Практическое руководство по запуску больших языковых моделей (LLM) на локальном оборудовании. Курс ориентирован на пользователей, которым важна конфиденциальность данных, работа в офлайн-режиме и отсутствие расходов на облачные API. Материал охватывает весь цикл: от выбора подходящего «железа» до интеграции моделей в собственные приложения.
Программа построена вокруг двух основных инструментов: LM Studio и Ollama. Вы научитесь подбирать модели (Llama, Gemma, DeepSeek), понимать принципы квантования, позволяющие запускать тяжелые ИИ-системы на обычном ПК, и настраивать параметры генерации (температура, контекстное окно). Курс включает практические кейсы: распознавание текста на изображениях (OCR), анализ PDF-документов и генерацию программного кода. Отдельное внимание уделено работе с API, что позволит подключать локальные модели к внешним скриптам на Python или JavaScript.
Курс состоит из 58 лекций общей длительностью около 4 часов. Технический бэкграунд не обязателен, достаточно понимания основ работы с чат-ботами. Минимальное требование — 8 ГБ оперативной памяти (желательно с поддержкой видеокарты).
Программа обучения
- Введение: обзор открытых LLM, лицензирование и выбор моделей.
- Аппаратное обеспечение: требования к железу и основы квантования моделей.
- LM Studio: установка, интерфейс, чат, управление системными промптами, мультимодальные возможности.
- Настройка параметров: работа с температурой, top_k, top_p и длиной контекста.
- Ollama: установка, настройка Open WebUI, работа с Modelfiles и шаблонами.
- Интеграция: использование API для доступа к моделям из программного кода (Python/JS).
- Практика: OCR, анализ документов, генерация кода, few-shot prompting.
Другие материалы автора 8
MS Maximilian Schwarzmüller Все материалыОтзывов пока нет. Будьте первым!
Это не розничная цена — это ваш взнос в складчину. Мы собираем группу участников и делим между ними стоимость официального доступа: каждый платит только свою долю, а получает весь материал. Чем больше участников, тем меньше взнос. После того как сумма собрана, мы оформляем официальный доступ и раздаём материалы всем, кто участвовал.
Нажмите кнопку «Получить доступ» на этой странице и следуйте инструкциям. Вас переведёт на форму оплаты — доступны все современные способы (карта, СБП, электронные кошельки). После оплаты на почту придёт письмо с доступом: материалы выдаются в разделе «Мои складчины» на нашем основном сайте skladchik.org. Учтите: в России skladchik.org открывается только через ускоритель интернета (VPN) — настроить его можно за пару минут по инструкции на skladchik-kak-voiti.online.
Да, конечно. Все материалы — видео, PDF, дополнительные файлы — можно скачать к себе на компьютер и пользоваться ими сколько угодно, без ограничений по времени. Ссылки остаются активными в вашей библиотеке «Мои складчины».