Практический курс по Big Data. Часть 1. HDFS, Map Reduce, Hive
О чём курс
Разработчики, аналитики и инженеры данных получают базу для работы с распределенными системами на реальном кластере. Вы освоите архитектуру HDFS, научитесь настраивать MapReduce-вычисления и использовать Hive для обработки массивов информации.
Ключевые темы:
- Устройство распределенных файловых систем и принципы чтения/записи в HDFS.
- Оптимизация Hadoop-задач через партиционирование, комбинирование и использование сложных ключей.
- Архитектура Hive: от трансляции запросов в MapReduce до продвинутых форматов хранения и десериализации.
- Тюнинг операций Join, работа с партиционированием и бакетированием данных для ускорения вычислений.
Курс подходит разработчикам, аналитикам и Data Scientists, которые хотят перейти от локальной обработки данных к работе с Big Data на уровне кластерных технологий.
Программа обучения
- Вводная часть: задачи, оценки, дедлайны
- Распределенные файловые системы (GFS, HDFS): составляющие, достоинства, недостатки, сфера применения
- Чтение и запись в HDFS. HDFS APIs: Web, shell
- Hadoop Streaming
- Элементы Hadoop-задачи: Mapper, reducer, combiner, partitioner, comparator
- Приложения с несколькими Hadoop-задачами
- Тюнинг Hadoop-job: настройка партиционирования, сложные ключи, uber jobs
- Задачи с несколькими входами. Joins в Hadoop
- Архитектура Hive, виды таблиц, форматы хранения данных
- Трансляция Hive-запросов в MapReduce-задачи
- Сериализация и десериализация
- Тюнинг Join'ов в Hive
- Партиционирование, бакетирование, семплирование
- User defined functions, Hive Streaming
Другие материалы школы 1
BT bigdata team Все материалыОтзывов пока нет. Будьте первым!
Это не розничная цена — это ваш взнос в складчину. Мы собираем группу участников и делим между ними стоимость официального доступа: каждый платит только свою долю, а получает весь материал. Чем больше участников, тем меньше взнос. После того как сумма собрана, мы оформляем официальный доступ и раздаём материалы всем, кто участвовал.
Нажмите кнопку «Получить доступ» на этой странице и следуйте инструкциям. Вас переведёт на форму оплаты — доступны все современные способы (карта, СБП, электронные кошельки). После оплаты на почту придёт письмо с доступом: материалы выдаются в разделе «Мои складчины» на нашем основном сайте skladchik.org. Учтите: в России skladchik.org открывается только через ускоритель интернета (VPN) — настроить его можно за пару минут по инструкции на skladchik-kak-voiti.online.
Да, конечно. Все материалы — видео, PDF, дополнительные файлы — можно скачать к себе на компьютер и пользоваться ими сколько угодно, без ограничений по времени. Ссылки остаются активными в вашей библиотеке «Мои складчины».