Книжный клуб Kubesimplify — Сессия 1 — Inference Engineering

Первая сессия книжного клуба KubeSimplify! Сезон 1: «Инженерный вывод» Филипа Кили, опубликовано БЕСПЛАТНО издательством Baseten. На этой сессии рассматриваются предисловие, глава 0 и глава 1: Почему вывод является самой ценной категорией в индустрии ИИ и почему инженеры платформ — это те, кому она идеально подходит Три уровня стека вывода: среда выполнения, инфраструктура, инструменты Вывод с использованием выделенных и общих ресурсов, и три триггера для запуска собственных графических процессоров Выбор модели: оценка, тонкая настройка, дистилляция Важные метрики: TTFT, TPS, задержка между токенами и почему P99 превосходит средний показатель Чтение на сегодня: предисловие + главы 0 и 1 (~30 страниц). Нет времени читать? Присоединяйтесь, я вам всё объясню. 📥 Получите книгу БЕСПЛАТНО (PDF, EPUB, аудиокнига): https://www.baseten.co/inference-engi... 💬 Присоединяйтесь к Discord-серверу KubeSimplify для обсуждений между сессиями: https://kubesimplify.com/discord #Kubernetes #AI #InferenceEngineering #GPU #PlatformEngineering