Развертывание моделей машинного обучения в Kubernetes | Эд Ши

До недавнего времени область науки о данных и машинного обучения (ML) недостаточно использовалась в контексте внедрения инструментов и процессов DevOps. Однако сейчас ситуация меняется, поскольку инженерные команды извлекают максимальную пользу из своих моделей машинного обучения, внедряя их в производство. В этом докладе Эд представит библиотеку Seldon Core с открытым исходным кодом, создаст модель с использованием популярных инструментов машинного обучения и развернет ее в Kubernetes для обработки производственного трафика. Вы узнаете, как превратить модель машинного обучения в производственный микросервис, обрабатывающий REST/gRPC-трафик, как использовать сложные методы развертывания моделей и как отслеживать как инфраструктуру, так и сами модели, выявляя отклонения и аномалии по мере их возникновения.