Перейти к содержимому

Почему расходы на LLM не являются устойчивыми — и о каких именно расходах идет речь

AI TechBook

0:00 / 0:00

Почему расходы на LLM не являются устойчивыми — и о каких именно расходах идет речь

121 просмотр · 1 месяц назад
AI TechBook
204 подписчика
121 просмотр · 1 месяц назад
Цены на токены упали в 600 раз по 318 моделям — и компании, продающие эти токены, теряют деньги. Оба утверждения верны. Три фактора объясняют это. Никто в этом споре не лжет; они оценивают разные вещи. В этом эпизоде ​​мы разделяем три фактора: стоимость фиксированной функциональности (падение), стоимость эксплуатации новейшей модели (рост) и стоимость обслуживания токена для поставщика (значительно выше, чем предполагает заявленная цена). Как только вы спросите, какой фактор имеет в виду, большая часть спора станет понятной сама собой. Разделы: 0:00 Заголовок, противоречащий самому себе 0:13 Три вопроса, а не один 1:02 Фиксированная мощность: в 600 раз дешевле 2:08 Граница: в 3–18 раз дороже с каждым годом 3:05 Почему оба утверждения верны — ножницы 4:28 Сколько стоит услуга по запросу 5:29 Почему лаборатории по-прежнему теряют деньги 6:28 Субсидия прекращается 7:30 Три утверждения, которые заходят слишком далеко 8:26 Какую стоимость вы имеете в виду? 9:23 Одно лицо, три иглы 9:56 Источники и то, что сообщается и публикуется Что вы узнаете: Три различных значения стоимости, которые может означать утверждение о «цене ИИ», и как их различать Почему фиксированная возможность падает в цене, в то время как граница возможностей растет — из того же исследования Экономика единицы обслуживания токена с показанными арифметическими вычислениями Почему обслуживающий бизнес может быть прибыльным, в то время как лаборатория, которая также обучает, находится в убытке Цена остается на уровне экономичных и средних моделей, и почему цены флагманских моделей почти не снижаются Источники (каждое утверждение в эпизоде ​​ссылается на один из них): Цена прогресса — arXiv:2511.23455 — https://arxiv.org/abs/2511.23455 Тенденции цен на вывод LLM в Epoch AI — https://epoch.ai/data-insights/llm-in... Многоуровневая Закон Супер-Мура — arXiv:2603.28576 — https://arxiv.org/abs/2603.28576 Шон Гоедеке, «Вывод ИИ, очевидно, прибылен» — https://www.seangoedecke.com/ai-infer... Валовая прибыль Anthropic в 2025 году (~40%, на десять пунктов ниже плана): СООБЩЕНО, не опубликовано — первоначально The Information, январь 2026 г. Прибыль OpenAI (40% → 33%) и рост затрат на вывод: СООБЩЕНО, не опубликовано — первоначально The Information, январь–февраль 2026 г. Две из этих цифр сообщаются, но не публикуются компаниями, и в эпизоде ​​они отмечены именно так. #AIEngineering #LLM #InferenceCosts