Книга

Локальные LLM на потребительской видеокарте. От квантизации до агентов: когда достаточно 16 ГБ VRAM [Андрей Ладыгин]

О книге

Свой ИИ-стек на игровой видеокарте — без облака и апгрейда. Локальные LLM на 16 ГБ VRAM: квантизация, бюджет памяти, рантаймы, кодинг-агенты, RAG, OpenCode с tool calling. Воспроизводимые бенчмарки, диагностика, критерии апгрейда. 12 глав с упражнениями и конфигами.

Содержание

Часть i. Фундамент: почему 16 гб — это достаточно
Глава 1. Анатомия vram: как модель, контекст и квантизация делят память
Глава 2. Ландшафт рантаймов: ollama, lm studio, llama. Cpp
Часть ii. Модели под задачи
Глава 3. Кодинг-агенты: qwen3-coder, devstral и другие
Глава 4. Агенты и rag: модели с большим контекстом
Глава 5. Универсальные модели: чат, анализ, документация
Часть iii. Opencode как центр управления
Глава 6. Архитектура opencode и подключение локальных моделей
Глава 7. Практика: автономное решение кодинг-задачи
Глава 8. Продвинутые сценарии: mcp-серверы, мульти-модельные пайплайны
Часть iv. Инженерия и измерения
Глава 9. Тонкая настройка: kv-кэш, flash-attention, выгрузка слоёв
Глава 10. Как измерять и сравнивать: методология бенчмарков
Глава 11. Диагностика и типичные ошибки
Глава 12. Взгляд вперёд: moe, новые квантизации, критерии апгрейда

Форматы: epub, fb2, pdfRead, mobi
Складчина создана 16 ноября 2026 г.

Запишитесь бесплатно — цена упадёт для всех

У автора этот материал стоит 400 ₽. В складчине сумму делят на всех: чем больше участников, тем меньше взнос каждого.

  1. 1 Оставляете email

    Без оплаты и без карты. Пришлём, как занять место в складчине на нашем основном сайте.

  2. 2 Складчина набирает людей

    Сейчас взнос 40 ₽. Каждый новый участник снижает его дальше.

  3. 3 Открывается сбор

    Присылаем итоговую цену. Устроит — платите и получаете материалы. Нет — просто не платите.

Запись ни к чему не обязывает: платите, только если итоговый взнос вас устроит.

40 ₽ Записаться бесплатно