Обработка данных, поступающих с опозданием, в Spark Structured Streaming с использованием водяных...
Anirvan Decodes
0:00 / 0:00
Обработка данных, поступающих с опозданием, в Spark Structured Streaming с использованием водяных...
4 346 просмотров · 1 год назад
Anirvan Decodes
2,82 тыс. подписчиков
4 346 просмотров · 1 год назад
Объяснение приемников данных и функции foreachBatch в Spark Structured Streaming
В этом видео мы рассмотрим различные приемники данных, доступные в Spark Structured Streaming, и как использовать мощный приемник foreachBatch для пользовательской обработки.
📽️ Разделы для изучения
0:00 Введение
0:13 Что такое данные с задержкой
3:29 Хранилище состояний
5:36 Хранилище состояний Rocks DB
5:59 Обработка данных с задержкой с помощью водяных знаков
💻 Код доступен на GitHub: https://github.com/anirvandecodes/Spa...
🌟 Оставайтесь на связи и повышайте свои навыки в области инженерии данных!
🔔 Подпишитесь сейчас: www.youtube.com/@anirvandecodes?sub_c...
🤝 Давайте общаться: / anirvandecodes
🎥 Изучите плейлисты, созданные специально для вас:
🚀 Структурированная потоковая обработка данных Spark с Kafka: • Spark Structured Streaming with Kafka: The...
🛠️ DBT (инструмент для построения данных): • DBT Tutorial
🌐 Apache Spark для всех: • Apache Spark for everyone
📌 С любовью Как вам контент? Покажите свою поддержку! Ставьте лайки, делитесь и подписывайтесь, чтобы продолжать учиться и развиваться в области инженерии данных. 🚀
Песня: Dawn
Лицензия: Creative Commons (CC BY 3.0) https://creativecommons.org/licenses/...
https://open.spotify.com/artist/5ZVHX...
Музыка предоставлена BreakingCopyright: https://breakingcopyright.com