О чём курс

Apache Kafka сегодня является стандартом индустрии для обработки потоков данных, который используют более 80% компаний из списка Fortune 100. На этом практикуме вы пройдете путь от установки брокера до настройки отказоустойчивого кластера и отладки высоконагруженных event-driven систем.

Внутри разбираются технические нюансы работы с брокером: от настройки авторизации через Kerberos и валидации схем в Avro Schema Registry до тонкостей мониторинга через Prometheus и JMX Exporter. Вы научитесь управлять очередями, настраивать гарантии доставки и автоматизировать передачу данных с помощью Kafka Connect и Streams.

Материал ориентирован на разработчиков, системных аналитиков и SRE-инженеров, которым нужно внедрить Kafka в архитектуру проектов или углубить понимание работы с распределенными очередями сообщений. На выходе вы получите навыки настройки полноценного кластера и опыт написания надежных Producer и Consumer-приложений.

Программа обучения

  • Модуль 1. Инфраструктура:
    • Что такое очередь сообщений и журнал сообщений
    • Для чего нужен брокер сообщений
    • Аналоги Kafka и дистрибутивы Kafka
    • Архитектура Kafka
    • Установка Kafka
    • Базовая настройка
    • Обзор WebUI
    • Документация
    • Настройка с ZooKeeper
    • Настройка с KRaft
    • Настройка аутентификации и авторизации через GSSAPI + Kerberos
    • Мониторинг Kafka: метрики
    • Настройка мониторинга Kafka на базе Prometheus & JMX Exporter
    • Отказустойчивость Kafka
    • Поведение в случае отказа broker/consumer/producer
    • Защищённый кластер Hardware Administration: как рассчитать необходимые мощности (CPU, Network, HDD, RAM) для кластера
  • Модуль 2. Разработка:
    • Конфигурация Producer
    • API продюсера
    • send(), ack и callback-отправки
    • Синхронная и ассинхронная отправка
    • Транзакции Producer
    • Сериализаторы: знакомство
    • Конфигурация Consumer
    • Offset и Commit
    • Партиции
    • Транзакции
    • API Консьюмера
    • Настройка аутентификации и авторизации через GSSAPI + Kerberos
    • Apache Avro Schema Registry: как валидировать структуру сообщений с её помощью
    • Event-driven архитектура и пример её применения
    • Репликация в Kafka
    • Партицирование
    • Контроллеры и лидеры
    • Работа с несколькими consumer/producer на одном топике
    • Гарантии доставки в Kafka и как они достигаются
    • Retention
    • Что такое Kafka Connect и зачем он нужен
    • Use cases Connect
    • Типы коннекторов
    • Kafka Streams: зачем нужны и как могут упростить архитектуру
    • Processor: что такое и как подключается
    • KSQL и KSQLdb: что такое и как пользоваться
Складчина создана 17 июня 2024 г. · описание обновлено 23 марта 2026 г.
750 ₽ 12 990 ₽