Токеномика 101: что такое токены и почему они важны | AI Factory Insider, эп. 4

В 4-м эпизоде ​​подкаста AI Factory Insider ведущий Каушик Ширхатти (вице-президент, AI Factory, NVIDIA) вместе со Шрути Копаркар (старший менеджер по продуктовому маркетингу, NVIDIA) и Туэ Траном (стратегический операционный директор по выходу на рынок, NVIDIA) обсуждают, что такое токен на самом деле, почему не все токены одинаковы и как связать инвестиции в AI Factory с реальной окупаемостью инвестиций для бизнеса. Что мы обсуждаем: 0:00 — Введение 1:28 — Знакомство с нашими гостями: Шрути Копаркар и Туэ Тран 2:42 — Что такое токен? 3:54 — Что такое «токеномика» и почему она актуальна сейчас? 4:58 — Не все токены одинаковы: интеллект, контекст и скорость 7:44 — Торговля против исследований: сопоставление токенов с вариантом использования 9:20 — Розничное видео: ответы с использованием одного токена против пакетного создания субтитров 10:40 — Оценка спроса на токены: приблизительные расчеты 12:10 — Множители: рассуждения, агентные циклы и коэффициент попадания в кэш 13:54 — Объяснение кэша ключ-значение и сопоставления префиксов 16:34 — Предложение: фабрика ИИ как автомобильный двигатель 17:29 — Плотные модели против смеси экспертов 20:19 — Правильная модель для правильной задачи: пример из телекоммуникационной отрасли 21:24 — Интеллектуальная маршрутизация с коммутатором NeMo 22:10 — Куда идут ваши токены? Наблюдаемость с помощью NeMo Relay 22:38 — Соответствующая инфраструктура: серверы NVL72, HGX и RTX PRO 23:31 — Dynamo и экстремальное совместное проектирование 24:25 — Монетизация: четыре пути от токенов к ROI 27:54 — Просто начните и сделайте это командной работой 29:18 — Меры предосторожности на случай цунами токенов 31:32 — Заключение Ресурсы: AI Tokenomics: A Framework for Deploying and Monetizing Inference at Scale 👉 https://nvda.ws/45WUA0e Inside AI Tokenomics: How to Profitably Turn Tokens Into Business Value 👉 https://nvda.ws/4gE3Hry NVIDIA AI Factory Validated Design Guide 👉 https://nvda.ws/4wGGHz0