Панельная дискуссия 4 001

Присоединяйтесь к Вибхору Чинде и Эдпуганти Анирудху, которые расскажут о самостоятельном размещении небольших языковых моделей в Kubernetes с помощью LiteLLM и KServe. В этом докладе будет рассмотрена альтернатива использованию размещенных API для языковых моделей, с акцентом на инструменты и инфраструктуру, необходимые для запуска SLM на собственном стеке. #Kubernetes #LiteLLM #KServe