Складчина Каталог
Мои курсы

Квантование для моделей GenAI

6 участников
Школа Udemy

О чём курс

Технический курс по оптимизации генеративных моделей (GenAI) с помощью методов квантования. Материал ориентирован на разработчиков, Data Scientist’ов и инженеров машинного обучения, работающих над развертыванием моделей на периферийных устройствах и в средах с ограниченными вычислительными ресурсами.

Курс состоит из 24 лекций общей продолжительностью около 2,5 часов. В процессе обучения рассматриваются теоретические основы представления чисел, типы данных (FP32, FP16, BFloat16, INT8) и практическая реализация методов сжатия моделей на Python с использованием библиотеки PyTorch. Основное внимание уделено снижению нагрузки на память и ускорению инференса моделей без существенной потери точности.

Программа обучения

  • Методы оптимизации: введение в обрезку (pruning), дистилляцию знаний и квантование.
  • Типы данных: форматы FP32, FP16, BFloat16, INT8, 8-битные числа с фиксированной точкой, их представление в PyTorch.
  • Техники квантования: разница между симметричным и асимметричным квантованием.
  • Практика: понижение типов данных тензоров и моделей ML в Python, пример квантования модели GPT Neo 125.
Складчина создана 28 февраля 2025 г. · описание обновлено 20 марта 2026 г.

Другие материалы школы 12

U Udemy Все материалы
О Обучение Oracle PL/SQL с нуля 1 090 ₽ Верстка и создание веб-сайтов: с нуля до результата Верстка и создание веб-сайтов: с нуля до результата 324 ₽ 1 890 ₽ −83%E Elasticsearch 6 и Elastic Stack 178 ₽ 750 ₽ −76%Т Тестирование кранио-шейной стабильности для мануальных врачей 1 076 ₽ 2 290 ₽ −53%F Flask is Fun and Easy: From basics to building scalable Apps 284 ₽ 670 ₽ −58%П Подработка в интернете с доходом не ниже прожиточного 1 323 ₽ 1 790 ₽ −26%П Психосоматика 1 090 ₽ Компоненты Lightning Web (LWC) от Salesforce Компоненты Lightning Web (LWC) от Salesforce 1 800 ₽ Т Теоретические основы христианской психологии 100 ₽ 649 ₽ −85%Hacking with macOS - Создай 18 десктопных приложений с Swift 3 Hacking with macOS - Создай 18 десктопных приложений с Swift 3 194 ₽ 600 ₽ −68%П Перестань волноваться с Ирмой Лэйк 999 ₽ Д Дейтрейдинг криптовалютой на платформе Uni Bot Platform 0 ₽

Ещё интересные курсы 12

Ещё интересные курсы

Инженер машинного обучения Предзаказ
4 006 ₽ 130 000 ₽ −97%
Оплатили 34

Инженер машинного обучения

Яндекс Практикум
Машинное обучение с помощью ClearML и Pytorch Lightning Можно купить
256 ₽ 2 150 ₽ −88%
Оплатили 12

Машинное обучение с помощью ClearML и Pytorch Lightning

Александр Миленькин
SmartData. Data + AI: от источника данных до работающих моделей Предзаказ
5 973 ₽ 20 000 ₽ −70%
Оплатили 11

SmartData. Data + AI: от источника данных до работающих моделей

JUG Ru Group
MLOps: Разработка и внедрение ML-решений Предзаказ
2 764 ₽ 54 000 ₽ −95%
Оплатили 19

MLOps: Разработка и внедрение ML-решений

Ермилов Дмитрий
Инфраструктура ИИ NVIDIA и подготовка к NCA-AIIO Предзаказ
1 500 ₽
Оплатили 4

Инфраструктура ИИ NVIDIA и подготовка к NCA-AIIO

Ashish Prajapati
Полное руководство по инфраструктуре ИИ: от нуля до героя Можно купить
196 ₽ 1 700 ₽ −88%
Оплатили 26

Полное руководство по инфраструктуре ИИ: от нуля до героя

Udemy
Машинное обучение. Часть 3/5 Можно купить
272 ₽ 9 600 ₽ −97%
Оплатили 82

Машинное обучение. Часть 3/5

GeekBrains
MLOps для разработки и мониторинга моделей Предзаказ
10 244 ₽ 140 000 ₽ −93%
Оплатили 23

MLOps для разработки и мониторинга моделей

Яндекс Практикум
300 ₽