AWS Kinesis + Lambda + S3: стриминг данных в реальном времени
Pro-Ops
0:00 / 0:00
AWS Kinesis + Lambda + S3: стриминг данных в реальном времени
141 просмотр · 10 дн. назад
Pro-Ops
245 подписчиков
141 просмотр · 10 дн. назад
В этом видео соберём serverless-систему потоковой обработки данных на AWS: загрузили файл в S3 — продюсер тут же отправил его в поток Kinesis, а два независимых консьюмера получили данные в реальном времени. Никаких серверов, никаких запусков по расписанию раз в час.
Разбираем всё с нуля: от IAM-роли до проверки логов в CloudWatch. По пути объясняю, что такое шарды, чем On-demand отличается от Provisioned, зачем нужны версионирование и шифрование, и как работает ключ партиционирования в put_record.
🔧 Что используем:
AWS S3 — источник данных и триггер по загрузке файла
AWS Lambda (Python 3.14, boto3) — продюсер и два консьюмера
AWS Kinesis Data Streams — поток событий, 2 шарда, server-side encryption
IAM Role — права для Lambda-функций
CloudWatch Logs — проверяем, что всё отработало
⏱ Таймкоды:
00:00 — Архитектура системы
00:00 — Шаг 1. IAM-роль
00:00 — Шаг 2. Три Lambda-функции
00:00 — Шаг 3. S3 бакет и триггер
00:00 — Шаг 4. Поток Kinesis
00:00 — Шаг 5. Код продюсера
00:00 — Шаг 6. Код консьюмеров
00:00 — Шаг 7. Подключаем консьюмеров к потоку
00:00 — Шаг 8. Тестируем систему