Обучение парсингу на Python / Зарабатываем на фрилансе автоматизируя Хабр
ZProger [ IT ]
0:00 / 0:00
Обучение парсингу на Python / Зарабатываем на фрилансе автоматизируя Хабр
31 313 просмотров · 3 года назад
ZProger [ IT ]
152 тыс. подписчиков
31 313 просмотров · 3 года назад
⭐ Сервис с прокси: https://papaproxy.net/ru/index.php
⬆️ Промокод на скидку 10% — ZProger
⭐ Курс ООП и Приват канал: https://www.zproger-school.com/?utm_s...
⭐ Телеграм канал: https://t.me/+qp8Pj0AML2k0MTEx
⭐ Прокси для обхода блокировок: https://proxy6.net/c/91388
⭐ Исходный код: https://t.me/codeblog8/163
Выполняем задание на фрилансе по автоматизации Хабра.
Необходимо выполнить парсинг всех страниц определенной категории.
Будем делать всё асинхронно, использовать asyncio, aiohttp и bs4.
Также в этом задании будет использовать прокси в связке с aiohttp сессией.
📁 Github: https://github.com/Zproger
📁 Все плейлисты с уроками: https://bit.ly/39GaY89
📁 Связаться со мной: zproger777@gmail.com
📁 Поддержать канал: https://github.com/Zproger/donate
Тайм-коды:
0:00 - Важная информация и описание проекта
1:13 - Подключаем зависимости и извлекаем категории
2:10 - Парсим прокси из файла
2:36 - Какой сервис прокси используется в видео?
3:27 - Асинхронная функция для отправки запросов
4:17 - Проверяем работоспособность прокси
4:30 - Запускаем асинхронные задания параллельно (asyncio gather)
5:05 - Извлекаем количество страниц из сайта
6:25 - Как формируются страницы на сайте?
6:55 - Парсим статьи внутри каждой категории
7:30 - Извлекаем название статьи и ссылку
8:25 - Записываем результаты в файл и сдаем проект
9:07 - 1000 лайков - новые видео о фрилансе
#фриланс #парсинг #requests #python #scraping #webscraping