Машинное обучение и искусственный интеллект: вспомогательные векторные машины в Python

Команда Lazy Programmer Inc. разбирает машины опорных векторов (SVM) в Python: от геометрии и линейного классификатора до ядерных методов, регрессии и практических задач.

Как устроено обучение

Курс начинается с логистической регрессии и геометрии линий, плоскостей и гиперплоскостей. На этой основе авторы шаг за шагом выводят линейную SVM и объясняют, как она разделяет данные. Затем вы переходите к нелинейным моделям и способам их реализации.

Курс включает 13 разделов и 74 лекции общей продолжительностью 8 часов 58 минут. Язык лекций — английский.

Что внутри

Авторы разбирают функцию потерь hinge loss и её связь с кросс-энтропией, провисающие переменные, квадратичное программирование и двойственность Лагранжа. Вы рассмотрите проективный градиентный спуск и последовательную минимальную оптимизацию (SMO) как способы обучения модели.

Отдельная часть охватывает ядерную SVM: полиномиальное, гауссово, сигмоидное и строковое ядра, а также расширение пространства признаков до бесконечной размерности. В курс входят регрессия опорных векторов (SVR), многоклассовая классификация и RBF-сети — нейронные сети с радиальной базисной функцией. Авторы также сопоставляют устройство SVM и нейронных сетей.

Практические задачи

Два раздела отведены применению SVM. Сквозные примеры охватывают распознавание изображений, обнаружение спама, медицинскую диагностику и регрессионный анализ. Для более подготовленных слушателей есть упражнения по программированию, в которых можно попробовать разные способы реализации SVM.

Что нужно знать заранее

Для работы с материалом нужны математический анализ, матричная арифметика, геометрия и основы теории вероятностей. Также потребуются Python, NumPy и знакомство с логистической регрессией.