Перейти к содержимому

AWS Kinesis + Lambda + S3: стриминг данных в реальном времени

Pro-Ops

0:00 / 0:00

AWS Kinesis + Lambda + S3: стриминг данных в реальном времени

141 просмотр · 10 дн. назад
Pro-Ops
245 подписчиков
141 просмотр · 10 дн. назад
В этом видео соберём serverless-систему потоковой обработки данных на AWS: загрузили файл в S3 — продюсер тут же отправил его в поток Kinesis, а два независимых консьюмера получили данные в реальном времени. Никаких серверов, никаких запусков по расписанию раз в час. Разбираем всё с нуля: от IAM-роли до проверки логов в CloudWatch. По пути объясняю, что такое шарды, чем On-demand отличается от Provisioned, зачем нужны версионирование и шифрование, и как работает ключ партиционирования в put_record. 🔧 Что используем: AWS S3 — источник данных и триггер по загрузке файла AWS Lambda (Python 3.14, boto3) — продюсер и два консьюмера AWS Kinesis Data Streams — поток событий, 2 шарда, server-side encryption IAM Role — права для Lambda-функций CloudWatch Logs — проверяем, что всё отработало ⏱ Таймкоды: 00:00 — Архитектура системы 00:00 — Шаг 1. IAM-роль 00:00 — Шаг 2. Три Lambda-функции 00:00 — Шаг 3. S3 бакет и триггер 00:00 — Шаг 4. Поток Kinesis 00:00 — Шаг 5. Код продюсера 00:00 — Шаг 6. Код консьюмеров 00:00 — Шаг 7. Подключаем консьюмеров к потоку 00:00 — Шаг 8. Тестируем систему