Локальные LLM через Ollama и LM Studio — Практическое руководство

39 участников

О чём курс

Практическое руководство по запуску больших языковых моделей (LLM) на локальном оборудовании. Курс ориентирован на пользователей, которым важна конфиденциальность данных, работа в офлайн-режиме и отсутствие расходов на облачные API. Материал охватывает весь цикл: от выбора подходящего «железа» до интеграции моделей в собственные приложения.

Программа построена вокруг двух основных инструментов: LM Studio и Ollama. Вы научитесь подбирать модели (Llama, Gemma, DeepSeek), понимать принципы квантования, позволяющие запускать тяжелые ИИ-системы на обычном ПК, и настраивать параметры генерации (температура, контекстное окно). Курс включает практические кейсы: распознавание текста на изображениях (OCR), анализ PDF-документов и генерацию программного кода. Отдельное внимание уделено работе с API, что позволит подключать локальные модели к внешним скриптам на Python или JavaScript.

Курс состоит из 58 лекций общей длительностью около 4 часов. Технический бэкграунд не обязателен, достаточно понимания основ работы с чат-ботами. Минимальное требование — 8 ГБ оперативной памяти (желательно с поддержкой видеокарты).

Программа обучения

  • Введение: обзор открытых LLM, лицензирование и выбор моделей.
  • Аппаратное обеспечение: требования к железу и основы квантования моделей.
  • LM Studio: установка, интерфейс, чат, управление системными промптами, мультимодальные возможности.
  • Настройка параметров: работа с температурой, top_k, top_p и длиной контекста.
  • Ollama: установка, настройка Open WebUI, работа с Modelfiles и шаблонами.
  • Интеграция: использование API для доступа к моделям из программного кода (Python/JS).
  • Практика: OCR, анализ документов, генерация кода, few-shot prompting.
Складчина создана 16 июня 2025 г. · описание обновлено 20 марта 2026 г.

Другие материалы автора 8

MS Maximilian Schwarzmüller Все материалы
180 ₽ 2 500 ₽