Беспилотные автомобили, китайские модели и барьер стоимости ИИ
Prompt and Circumstance
0:00 / 0:00
Беспилотные автомобили, китайские модели и барьер стоимости ИИ
69 просмотров · 11 дней назад
Prompt and Circumstance
71 подписчик
69 просмотров · 11 дней назад
Эпизод 20 | Заголовки о конце света в мире ИИ заставляют задуматься, стоит ли продолжать инвестировать? Продолжайте, но следите за затратами. Том, Майк и Марк обсуждают поездки Тома на Waymo, трехдневное обучение Grok Bot и дешевые китайские модели. Марк называет апокалиптические разговоры лабораторий саморекламой; Том приводит пример 1000 долларов в месяц на подписки и вызовы API для работы одного человека, в то время как DeepSeek и Kimi K3 работают на вашем оборудовании.
Основные моменты
Две поездки на Waymo — включая узкую улицу Лос-Анджелеса — превратили скептика в сторонника.
Китайские модели, такие как DeepSeek Flash и Kimi K3, быстрые, дешевые и уже используются ежедневно.
Предупреждения о конце света от лабораторий ИИ выглядят как самореклама, призванная замаскировать гонку за лидерство.
Подсказки по маршрутизации перенаправляются на более дешевые модели; 99,9% работы не требует новейшей модели.
Стоимость подписки на ИИ для одного пользователя и вызовов API сейчас превышает 1000 долларов в месяц, и цены продолжают расти.
Самодельные инструменты один за другим вытесняют хостинг WordPress, Zapier и подписки N8N.
Важные концепции и фреймворки
Grok Bot — платформа ботов Grok, которая запускает несколько ботов в вашей собственной частной зоне, работающих вместе над задачами.
DeepSeek Flash — китайская модель, которую Том использует ежедневно, разработанная для экономии памяти из-за дефицита чипов.
Kimi K3 — китайская модель, получившая похвалу за разработку и названная невероятно дешевой на уровне токенов.
Балансировка подсказок — отправка определенных подсказок более дешевым моделям вместо того, чтобы по умолчанию все задачи передавались самой новой и дорогой модели.
Модель оркестратора — премиальная модель, которой не нужно ничего делать, а только выбирать и передавать задачи более дешевым субагентам.
«Первый прошедший» — концепция Марка для гонки ИИ: тот, кто первым достигнет цели, сможет контролировать каждую систему и сеть.
* Модели с открытым исходным кодом — модели, которые вы скачиваете и запускаете на собственном оборудовании, например, на Mac Mini Тома, без использования облачных сервисов.
Упомянутые инструменты и ресурсы:
Waymo — сервис вызова такси без водителя, которым Том пользовался дважды в Финиксе; он также помог ему преодолеть узкую улицу в Лос-Анджелесе.
Grok Bot — платформа ботов, прошедшая трехдневный курс обучения заработку с требованием внесения 200 долларов.
DeepSeek Flash — китайская модель, чрезвычайно быстрая и разработанная для работы с гораздо меньшим объемом памяти.
Kimi K3 — китайская модель, которую Том использует для разработки; друг Марка называет её очень хорошей.
Fable 5.1 — новейшая модель, которую Том загружает как оркестратор, а не как рабочий процесс.
Netlify — хостинг, который Майк использовал для развертывания своего сайта мероприятий, пока у него не закончились кредиты.
Zapier — сервис автоматизации, от которого Том перешел на два потока, экономя 300 долларов в год.
* n8n — Инструмент автоматизации рабочих процессов, стоящий примерно от 450 до 500 долларов в год, от которого Том отказывается.
Призывы к действию
Подсчитайте свои ежемесячные подписки на ИИ и расходы на API перед следующей сессией планирования.
Проведите инвентаризацию проблемных или застопорившихся задач, а затем сопоставьте ИИ с этими конкретными точками, вместо того чтобы гоняться за инструментами.
Протестируйте одну дешевую или универсальную модель на реальных задачах, прежде чем предполагать, что вам нужен премиум-уровень.
Назначьте премиум-модель в качестве оркестратора и перенаправьте основную работу более дешевым суб-агентам.
Привлекайте самых молодых сотрудников вашей компании к процессу определения направления развития ИИ.
Ключевые цитаты
«Оно подумало секунду, а потом полностью это сделало». — Марк Редгрейв
«Версия DeepSeek для Flash, которая только что вышла, необычайно хороша. Она необычайно быстрая». — Том Адамс
«Для меня это совершенно самообслуживающийся ложный нарратив, верно?» — Марк Редгрейв
«Сейчас я использую модель с открытым весом на своем Mac Mini, и она работает». — Том Адамс
«Абсолютная правда в том, что 99,9% из нас не нуждаются в последней басне, верно?» — Марк Редгрейв
«Существует длинный список вещей, которые могут положить конец миру. Это может быть еще одним пунктом в этом списке». — Майк Ричардсон
Главы
00:00 — Дважды прокатиться на беспилотном автомобиле и довериться ему
07:18 — Трехдневное обещание Grok Bot заработать миллиард долларов
10:48 — Дешевые китайские модели, о которых никто не говорит
14:01 — Предупреждения о конце света и заблокированные центры обработки данных
15:47 — Кому на самом деле выгоден апокалиптический нарратив
24:31 — Технические характеристики производителя наконец-то совпадают с ценой в магазине
32:55 — Хеджирование с DeepSeek или полная ставка на Anthropic?
39:24 — Балансировка оперативности: отправляйте дешевую работу дешевым моделям
43:10 — ...