Мини-практикум Kafka
О чём курс
Apache Kafka сегодня является стандартом индустрии для обработки потоков данных, который используют более 80% компаний из списка Fortune 100. На этом практикуме вы пройдете путь от установки брокера до настройки отказоустойчивого кластера и отладки высоконагруженных event-driven систем.
Внутри разбираются технические нюансы работы с брокером: от настройки авторизации через Kerberos и валидации схем в Avro Schema Registry до тонкостей мониторинга через Prometheus и JMX Exporter. Вы научитесь управлять очередями, настраивать гарантии доставки и автоматизировать передачу данных с помощью Kafka Connect и Streams.
Материал ориентирован на разработчиков, системных аналитиков и SRE-инженеров, которым нужно внедрить Kafka в архитектуру проектов или углубить понимание работы с распределенными очередями сообщений. На выходе вы получите навыки настройки полноценного кластера и опыт написания надежных Producer и Consumer-приложений.
Программа обучения
- Модуль 1. Инфраструктура:
- Что такое очередь сообщений и журнал сообщений
- Для чего нужен брокер сообщений
- Аналоги Kafka и дистрибутивы Kafka
- Архитектура Kafka
- Установка Kafka
- Базовая настройка
- Обзор WebUI
- Документация
- Настройка с ZooKeeper
- Настройка с KRaft
- Настройка аутентификации и авторизации через GSSAPI + Kerberos
- Мониторинг Kafka: метрики
- Настройка мониторинга Kafka на базе Prometheus & JMX Exporter
- Отказустойчивость Kafka
- Поведение в случае отказа broker/consumer/producer
- Защищённый кластер Hardware Administration: как рассчитать необходимые мощности (CPU, Network, HDD, RAM) для кластера
- Модуль 2. Разработка:
- Конфигурация Producer
- API продюсера
- send(), ack и callback-отправки
- Синхронная и ассинхронная отправка
- Транзакции Producer
- Сериализаторы: знакомство
- Конфигурация Consumer
- Offset и Commit
- Партиции
- Транзакции
- API Консьюмера
- Настройка аутентификации и авторизации через GSSAPI + Kerberos
- Apache Avro Schema Registry: как валидировать структуру сообщений с её помощью
- Event-driven архитектура и пример её применения
- Репликация в Kafka
- Партицирование
- Контроллеры и лидеры
- Работа с несколькими consumer/producer на одном топике
- Гарантии доставки в Kafka и как они достигаются
- Retention
- Что такое Kafka Connect и зачем он нужен
- Use cases Connect
- Типы коннекторов
- Kafka Streams: зачем нужны и как могут упростить архитектуру
- Processor: что такое и как подключается
- KSQL и KSQLdb: что такое и как пользоваться
Отзывов пока нет. Будьте первым!
Это не розничная цена — это ваш взнос в складчину. Мы собираем группу участников и делим между ними стоимость официального доступа: каждый платит только свою долю, а получает весь материал. Чем больше участников, тем меньше взнос. После того как сумма собрана, мы оформляем официальный доступ и раздаём материалы всем, кто участвовал.
Нажмите кнопку «Получить доступ» на этой странице и следуйте инструкциям. Вас переведёт на форму оплаты — доступны все современные способы (карта, СБП, электронные кошельки). После оплаты на почту придёт письмо с доступом: материалы выдаются в разделе «Мои складчины» на нашем основном сайте skladchik.org. Учтите: в России skladchik.org открывается только через ускоритель интернета (VPN) — настроить его можно за пару минут по инструкции на skladchik-kak-voiti.online.
Да, конечно. Все материалы — видео, PDF, дополнительные файлы — можно скачать к себе на компьютер и пользоваться ими сколько угодно, без ограничений по времени. Ссылки остаются активными в вашей библиотеке «Мои складчины».