Перейти к содержимому

Беспилотные автомобили, китайские модели и барьер стоимости ИИ

Prompt and Circumstance

0:00 / 0:00

Беспилотные автомобили, китайские модели и барьер стоимости ИИ

69 просмотров · 11 дней назад
Prompt and Circumstance
71 подписчик
69 просмотров · 11 дней назад
Эпизод 20 | Заголовки о конце света в мире ИИ заставляют задуматься, стоит ли продолжать инвестировать? Продолжайте, но следите за затратами. Том, Майк и Марк обсуждают поездки Тома на Waymo, трехдневное обучение Grok Bot и дешевые китайские модели. Марк называет апокалиптические разговоры лабораторий саморекламой; Том приводит пример 1000 долларов в месяц на подписки и вызовы API для работы одного человека, в то время как DeepSeek и Kimi K3 работают на вашем оборудовании. Основные моменты Две поездки на Waymo — включая узкую улицу Лос-Анджелеса — превратили скептика в сторонника. Китайские модели, такие как DeepSeek Flash и Kimi K3, быстрые, дешевые и уже используются ежедневно. Предупреждения о конце света от лабораторий ИИ выглядят как самореклама, призванная замаскировать гонку за лидерство. Подсказки по маршрутизации перенаправляются на более дешевые модели; 99,9% работы не требует новейшей модели. Стоимость подписки на ИИ для одного пользователя и вызовов API сейчас превышает 1000 долларов в месяц, и цены продолжают расти. Самодельные инструменты один за другим вытесняют хостинг WordPress, Zapier и подписки N8N. Важные концепции и фреймворки Grok Bot — платформа ботов Grok, которая запускает несколько ботов в вашей собственной частной зоне, работающих вместе над задачами. DeepSeek Flash — китайская модель, которую Том использует ежедневно, разработанная для экономии памяти из-за дефицита чипов. Kimi K3 — китайская модель, получившая похвалу за разработку и названная невероятно дешевой на уровне токенов. Балансировка подсказок — отправка определенных подсказок более дешевым моделям вместо того, чтобы по умолчанию все задачи передавались самой новой и дорогой модели. Модель оркестратора — премиальная модель, которой не нужно ничего делать, а только выбирать и передавать задачи более дешевым субагентам. «Первый прошедший» — концепция Марка для гонки ИИ: тот, кто первым достигнет цели, сможет контролировать каждую систему и сеть. * Модели с открытым исходным кодом — модели, которые вы скачиваете и запускаете на собственном оборудовании, например, на Mac Mini Тома, без использования облачных сервисов. Упомянутые инструменты и ресурсы: Waymo — сервис вызова такси без водителя, которым Том пользовался дважды в Финиксе; он также помог ему преодолеть узкую улицу в Лос-Анджелесе. Grok Bot — платформа ботов, прошедшая трехдневный курс обучения заработку с требованием внесения 200 долларов. DeepSeek Flash — китайская модель, чрезвычайно быстрая и разработанная для работы с гораздо меньшим объемом памяти. Kimi K3 — китайская модель, которую Том использует для разработки; друг Марка называет её очень хорошей. Fable 5.1 — новейшая модель, которую Том загружает как оркестратор, а не как рабочий процесс. Netlify — хостинг, который Майк использовал для развертывания своего сайта мероприятий, пока у него не закончились кредиты. Zapier — сервис автоматизации, от которого Том перешел на два потока, экономя 300 долларов в год. * n8n — Инструмент автоматизации рабочих процессов, стоящий примерно от 450 до 500 долларов в год, от которого Том отказывается. Призывы к действию Подсчитайте свои ежемесячные подписки на ИИ и расходы на API перед следующей сессией планирования. Проведите инвентаризацию проблемных или застопорившихся задач, а затем сопоставьте ИИ с этими конкретными точками, вместо того чтобы гоняться за инструментами. Протестируйте одну дешевую или универсальную модель на реальных задачах, прежде чем предполагать, что вам нужен премиум-уровень. Назначьте премиум-модель в качестве оркестратора и перенаправьте основную работу более дешевым суб-агентам. Привлекайте самых молодых сотрудников вашей компании к процессу определения направления развития ИИ. Ключевые цитаты «Оно подумало секунду, а потом полностью это сделало». — Марк Редгрейв «Версия DeepSeek для Flash, которая только что вышла, необычайно хороша. Она необычайно быстрая». — Том Адамс «Для меня это совершенно самообслуживающийся ложный нарратив, верно?» — Марк Редгрейв «Сейчас я использую модель с открытым весом на своем Mac Mini, и она работает». — Том Адамс «Абсолютная правда в том, что 99,9% из нас не нуждаются в последней басне, верно?» — Марк Редгрейв «Существует длинный список вещей, которые могут положить конец миру. Это может быть еще одним пунктом в этом списке». — Майк Ричардсон Главы 00:00 — Дважды прокатиться на беспилотном автомобиле и довериться ему 07:18 — Трехдневное обещание Grok Bot заработать миллиард долларов 10:48 — Дешевые китайские модели, о которых никто не говорит 14:01 — Предупреждения о конце света и заблокированные центры обработки данных 15:47 — Кому на самом деле выгоден апокалиптический нарратив 24:31 — Технические характеристики производителя наконец-то совпадают с ценой в магазине 32:55 — Хеджирование с DeepSeek или полная ставка на Anthropic? 39:24 — Балансировка оперативности: отправляйте дешевую работу дешевым моделям 43:10 — ...