Claude Fable 5 ЗАПРЕТИЛИ. Что делать?

В этом сольном эпизоде ​​я рассказываю о последствиях запрета Claude Fable 5 — самой мощной модели на планете, которую я планировал использовать в своих проектах, — после того, как правительство США направило Anthropic письмо. Я обосновываю преимущества локального ИИ, рассматривая его возможности: интеллект, работающий на вашем собственном оборудовании, сохраняющий конфиденциальность, работающий бесплатно после оплаты оборудования и продолжающий функционировать во время запретов, сбоев и повышения цен. Я описываю точный порядок его изучения — среды выполнения, сопоставление модели с оборудованием, квантование и агенты — и называю конкретные инструменты и модели, которые я использую. Затем я предлагаю вам пять идей для стартапов, которые существуют именно потому, что интеллект теперь находится у вас на столе. В результате вы получите четкий план по созданию отказоустойчивого уровня вашей инфраструктуры, начиная с этой недели. Узнайте, как привлекать клиентов с помощью ИИ-агентов: https://startup-ideas-pod.link/GTM-ag... Временные метки 00:00 – Введение 01:20 – Запрет Fable 5 02:31 – Аренда доступа против владения интеллектом 03:41 – Как работает локальная модель 07:19 – Стек локальных моделей 08:45 – Сопоставление модели с машиной 10:45 – Выбор модели (Qwen 3, DeepSeek, Gemma, Llama) 13:09 – Объяснение квантизации 14:36 ​​– Цикл локального агента 17:45 – Маршрутизация модели (настоящая задача) 18:44 – Пять идей для стартапов в эпоху локального ИИ 22:17 – Заключительные мысли Ключевые моменты Одно правительственное письмо привело к отключению Fable 5 за одну ночь, поэтому теперь я владею частным слоем своего стека. * Локальные модели уже обрабатывают примерно 80% повседневных задач ChatGPT или Claude, полностью в автономном режиме и бесплатно после установки оборудования. Я бы изучал их в порядке очередности: сначала среду выполнения (LM Studio или Ollama), затем подбирайте размер модели в соответствии с вашей оперативной памятью. Модель с 12 миллиардами параметров на 16 ГБ оперативной памяти — это оптимальный вариант для большинства пользователей. Направление агента, такого как Hermes, на локальную модель превращает ваш рабочий стол в частный, постоянно работающий мини-центр обработки данных. Краткие обзоры разделов 1. Выходные, которые изменили мое мнение. Я планировал провести все выходные, разрабатывая большую идею с помощью Fable 5, самой мощной модели на планете. В пятницу в 17:21 правительство США отправило Anthropic письмо, и к вечеру пятницы модель стала недоступна для всех. 2. Аренда или владение собственным интеллектом. Я люблю облачные модели и использую их каждый день; они остаются самыми умными доступными инструментами. Подвох в праве собственности — вы арендуете доступ, и правительство, политика или изменение цены могут мгновенно его отозвать. 3. Что представляют собой локальные модели на самом деле? Локальная модель работает полностью на вашем компьютере: вы скачиваете файл один раз, и с тех пор он ваш, как видеоигра или фоторедактор работают на вашем компьютере. Вы получаете три преимущества перед облачными технологиями — конфиденциальность, нулевые предельные издержки после установки оборудования и постоянно работающий инструмент, который продолжает работать в самолете, в бункере или во время любого сбоя. 4. Путь обучения: от среды выполнения к оборудованию. Я бы изучал это в определенной последовательности, и первый шаг — это среда выполнения — программа, которая запускает модели на вашем компьютере — с LM Studio для удобного интерфейса «нажми и запусти» или Ollama для любителей командной строки. Второй шаг — подбор размера модели в соответствии с вашим оборудованием: модель с 4 битами памяти работает практически на любом компьютере, модель с 12 битами памяти — оптимальный вариант для 16 ГБ оперативной памяти, для модели с 27–35 битами памяти нужен мощный Mac или дискретная видеокарта, а для модели с 70 битами памяти требуется серьезное оборудование, например, Mac Studio с максимальными настройками или Nvidia DGX Spark со 128 ГБ унифицированной памяти. 5. Выбор модели и освоение квантизации. Большинству людей я бы посоветовал начать с Qwen 3 и новой серии 3.6 от Alibaba — она эффективна в программировании, поддерживает многоязычность, имеет чистую коммерческую лицензию и превосходит ожидания в версиях с 27 и 35 битами памяти. DeepSeek отлично подходит для сложных логических вычислений (дайте ему 10–30 секунд на размышление), Gemma от Google пишется великолепно и занимает достаточно мало места, чтобы поместиться в 16 ГБ памяти или даже в телефон, а Llama от Meta работает практически везде и имеет огромное сообщество пользователей. 6. Пять идей для стартапов в эпоху локального ИИ. Поскольку конфиденциальность и отказоустойчивость сейчас являются важными конкурентными преимуществами, я поделюсь пятью идеями: ИИ на устройствах для регулируемых отраслей (здравоохранение, юриспруденция, финансы), где данные должны храниться внутри здания; переосмысление популярных об...