Перейти к содержимому

Обработка данных, поступающих с опозданием, в Spark Structured Streaming с использованием водяных...

Anirvan Decodes

0:00 / 0:00

Обработка данных, поступающих с опозданием, в Spark Structured Streaming с использованием водяных...

4 346 просмотров · 1 год назад
Anirvan Decodes
2,82 тыс. подписчиков
4 346 просмотров · 1 год назад
Объяснение приемников данных и функции foreachBatch в Spark Structured Streaming В этом видео мы рассмотрим различные приемники данных, доступные в Spark Structured Streaming, и как использовать мощный приемник foreachBatch для пользовательской обработки. 📽️ Разделы для изучения 0:00 Введение 0:13 Что такое данные с задержкой 3:29 Хранилище состояний 5:36 Хранилище состояний Rocks DB 5:59 Обработка данных с задержкой с помощью водяных знаков 💻 Код доступен на GitHub: https://github.com/anirvandecodes/Spa... 🌟 Оставайтесь на связи и повышайте свои навыки в области инженерии данных! 🔔 Подпишитесь сейчас: www.youtube.com/@anirvandecodes?sub_c... 🤝 Давайте общаться:   / anirvandecodes   🎥 Изучите плейлисты, созданные специально для вас: 🚀 Структурированная потоковая обработка данных Spark с Kafka:    • Spark Structured Streaming with Kafka: The...   🛠️ DBT (инструмент для построения данных):    • DBT Tutorial   🌐 Apache Spark для всех:    • Apache Spark for everyone   📌 С любовью Как вам контент? Покажите свою поддержку! Ставьте лайки, делитесь и подписывайтесь, чтобы продолжать учиться и развиваться в области инженерии данных. 🚀 Песня: Dawn Лицензия: Creative Commons (CC BY 3.0) https://creativecommons.org/licenses/... https://open.spotify.com/artist/5ZVHX... Музыка предоставлена ​​BreakingCopyright: https://breakingcopyright.com