Парсинг API на Python
О чём курс
О чём курс
Павел Хошев учит получать и обрабатывать данные API с помощью Python и библиотеки requests. Практика построена на учебном приложении, которое собирает сведения о курсах: вы будете запрашивать карточки, рейтинги, отзывы, промокоды, статистику, состав команд авторов и поисковые логи. Теоретические объяснения и квизы помогают разобраться в устройстве API перед выполнением запросов.
Запросы и ответы
Вы научитесь читать документацию API и выбирать нужные эндпоинты, параметры и форматы ответа. В requests разберёте запросы GET и POST, передачу параметров, заголовков, cookies и таймаутов. Работа с Response включает проверку кодов состояния, заголовков, тела ответа и Content-Type.
Ответы в JSON вы будете разбирать с учётом вложенных структур, пустых списков, null и неожиданных типов данных. Курс охватывает приведение дат, цен, рейтингов и вложенных полей к удобному виду, а также сохранение результатов в JSON и CSV.
Устойчивый сбор данных
Для последовательного получения данных рассматриваются query- и path-параметры, пагинация, пакетные запросы и ограничения частоты обращений к API. Отдельно разбираются Session, повторные попытки запросов и HTTP-адаптеры. Вы познакомитесь с API Key, Bearer Token, JWT, Basic Auth, cookie-сессиями и OAuth, а также с хранением ключей и токенов.
В материалах есть объяснение сжатия HTTP-ответов с помощью gzip, deflate, br и zstd. Раздел о прокси охватывает их подключение и проверку, типы прокси и стратегии ротации; в исходном материале он обозначен как находящийся в разработке.
Программа обучения
Введение Введение Содержание Что такое API Как работает современный API Что такое RESTful API и чем он нам полезен Изучение документации /docs Основы requests. API на пальцах: что это и зачем Установка и импорт Сигнатура метода GET и POST Объект Response Коды ответов HTTP Точка входа в API Фильтруем выдачу Договариваемся с сервером Предъяви своё печенье Работа с JSON-ответами API. Введение Синтаксис JSON и маппинг типов Навигация по структуре JSON Типы данных API: даты, цены, числа и null response.json() и ошибки Нормализация ответа Сохраняем результат в JSON Сохраняем результат в CSV Flatten: расплющиваем вложенные структуры Точная настройка запроса. Query-параметры Path-параметры Комбинированные запросы Пагинация в API Batch-запросы Rate limiting - ограничение на количество запросов Работа с сессиями HTTP Адаптеры Авторизация API. Введение в авторизацию API Bearer, API key, Basic Auth API Key Bearer Token и JWT Basic Auth Cookie и сессии OAuth 2.0 Безопасное хранение ключей и токенов Сжатие HTTP-ответов. Введение: зачем сжатие и когда оно важно Зачем использовать сжатие? deflate базовый алгоритм gzip проверенная классика br современный выбор zstd новейший алгоритм Обратная сторона: CPU vs сеть Сравнение алгоритмов: когда что выбрать Прокси. Введение 2.0 Введение Proxies Используем прокси Серверные прокси Резидентские прокси Мобильные прокси Стратегии ротации прокси Это конец. Куда дальше?
Теги курса
Другие материалы автора 4
ПХ Павел Хошев Все материалыОтзывов пока нет. Будьте первым!
Это не розничная цена — это ваш взнос в складчину. Мы собираем группу участников и делим между ними стоимость официального доступа: каждый платит только свою долю, а получает весь материал. Чем больше участников, тем меньше взнос. После того как сумма собрана, мы оформляем официальный доступ и раздаём материалы всем, кто участвовал.
Нажмите кнопку «Получить доступ» на этой странице и следуйте инструкциям. Вас переведёт на форму оплаты — доступны все современные способы (карта, СБП, электронные кошельки). После оплаты на почту придёт письмо со ссылкой и инструкциями для доступа к материалам. Если ссылка не открывается, загляните в раздел «Помощь» или напишите в поддержку.
Да, конечно. Все материалы — видео, PDF, дополнительные файлы — можно скачать к себе на компьютер и пользоваться ими сколько угодно, без ограничений по времени. Ссылки остаются активными в вашей библиотеке «Мои складчины».