Защита систем GenAI с помощью лучших практик

О чём курс

Таймур Иджал разбирает, как оценивать риски систем генеративного ИИ и подбирать меры защиты для приложений GenAI. В качестве примеров используются приложения с такими инструментами, как ChatGPT и Bard. Автор рассматривает уязвимости моделей, этические проблемы и случаи, когда риски генеративного ИИ затрагивают разные отрасли.

Вы познакомитесь с принципами безопасности GenAI и разберёте распространённые ошибки при защите таких систем. Автор объясняет, какие меры безопасности подходят приложениям генеративного ИИ и как соотносить их с рекомендациями поставщиков облачных услуг.

Что внутри

Курс охватывает фреймворк MITRE ATLAS, Google SAIF, матрицу AWS Generative AI Security Scoping Matrix и OWASP Top 10 для LLM. На их примере автор показывает, как оценивать область применения мер безопасности и выбирать подход к защите GenAI-приложений. Также рассматриваются инструменты безопасности генеративного ИИ и трудности, возникающие при внедрении защитных мер.

В материале есть тематические исследования и реальные примеры рисков. Они помогают связать рекомендации фреймворков с задачами, которые возникают при работе с генеративным ИИ.

Для кого

Курс рассчитан на экспертный уровень. Среди его адресатов — инженеры ИИ, специалисты по кибербезопасности, облачные архитекторы, ИТ-менеджеры и менеджеры по рискам. Он также адресован тем, кто изучает пересечение ИИ и кибербезопасности.

Для работы с материалом пригодятся базовые знания GenAI и кибербезопасности. Автор рекомендует знакомство с основными понятиями ИИ и кибербезопасности, но в оригинальном описании не считает его обязательным условием.

Формат

Материал включает 6 разделов и 20 лекций общей продолжительностью 2 часа 42 минуты. Исходный язык — английский; к курсу добавлены русский машинный перевод текста и русские аудиодорожки с машинным переводом. Аудиоперевод синхронизирован по времени с видео, а для просмотра подготовлены видеофайлы с русской дорожкой. Последнее обновление курса датировано январём 2025 года.