Перейти к содержимому

Snowflake AI: квоты на использование сервисов ИИ для каждого пользователя

EDventurous Minds

0:00 / 0:00

Snowflake AI: квоты на использование сервисов ИИ для каждого пользователя

295 просмотров · 1 месяц назад
EDventurous Minds
1,07 тыс. подписчиков
295 просмотров · 1 месяц назад
Snowflake предлагает «Квоты на пользователя» — новую функцию FinOps, предназначенную для управления расходами на ИИ на уровне отдельных пользователей, предотвращая нежелательное превышение расходов на ИИ одним пользователем. В этом видео я подробно разбираю: Лимиты расходов на пользователя — Как определить ежемесячные и ежедневные лимиты кредита, которые применяются одинаково ко всем пользователям в рамках данной области, обеспечивая детальный контроль над потреблением ИИ. Автоматическое применение — Как Snowflake блокирует новые запросы ИИ для пользователя в тот момент, когда он достигает своего лимита. Отмена роли или регистрация аудита — при превышении порогового значения. Проактивные уведомления — Как срабатывают оповещения на основе фактических или прогнозируемых расходов, чтобы команды получали предупреждения до того, как пользователь превысит свою квоту, а не после. Ежемесячные и ежедневные лимиты — Почему эти два лимита оцениваются независимо, то есть пользователь может превысить свой ежедневный лимит, оставаясь в пределах своего ежемесячного бюджета (и наоборот). Гибкое определение области действия пользователей — Как применять квоту ко всем пользователям или нацеливаться на конкретных пользователей по тегам, используя логику UNION (соответствие хотя бы одному тегу) или INTERSECTION (соответствие всем тегам) — с автоматическим добавлением новых пользователей. Поддерживаемые домены — Где применяется это отслеживание: вычислительные ресурсы хранилища данных, функции ИИ, агенты Cortex, Snowflake CoWork (ранее Snowflake Intelligence) и Snowflake CoCo (ранее Cortex Code).