Обзор Jev: быстрая нейросеть, которую мы пытались сломать специально

Что если бы модели ИИ вообще не нужно было генерировать абзацы текста? Что если бы она могла просто принимать решения, необходимые вашему программному обеспечению, быстро и дешево? Подписывайтесь на AI That Works — новый эпизод выходит каждую пятницу. Следите также за ведущими: Вайбхавом (https://x.com/vaibcode) и Дексом (https://x.com/dexhorthy) Больше от TypeSafe AI: они создали Jev, модель System One, о которой идет речь в этом эпизоде ​​— быстрые, типизированные решения вместо генерации текста в свободной форме. Узнайте о ней больше на typesafe.ai. В этом эпизоде ​​AI That Works Вайбхав и Декс рассматривают Jev, новую модель System One от TypeSafe AI, построенную на основе быстрых, структурированных решений, а не генерации текста в свободной форме. В ходе беседы обсуждается, чем Jev отличается от традиционной LLM, почему ее чрезвычайно низкая задержка меняет типы задач, которые может решать ИИ, и где эта новая архитектура модели может вписаться в реальные программные системы. Вайбхав и Декс разбирают основные примитивы Jev, включая выбор, оценку и бинарные решения, и показывают, как они могут превратить ИИ в нечто, больше похожее на примитив программирования, чем на чат-бота. Обсуждение переходит от простой классификации к структурированным результатам, типобезопасным интерфейсам, параллельным решениям и возможности создания программного обеспечения, в котором операции, основанные на ИИ, встроены непосредственно в язык. Затем эпизод становится более экспериментальным. Вайбхав демонстрирует, как эти идеи можно использовать для построения модели программирования, где объекты могут классифицироваться, оцениваться, сопоставляться или запрашиваться через простые интерфейсы. Декс исследует другое применение, используя Jev в качестве части системы поиска кода и вызова инструментов, где модель выбирает следующее действие из ограниченного набора возможностей. Это приводит к одной из главных идей эпизода: многие проблемы могут не требовать LLM, способного генерировать бесконечное количество возможных результатов. Агенты программирования, навигация по коду, системы автономного вождения и видеоигры часто работают в гораздо меньшем пространстве действий. Если возможные дальнейшие действия четко определены, быстрая модель System One потенциально может принимать эти решения с гораздо меньшей задержкой и стоимостью, чем более крупная модель. Вайбхав и Декс также обсуждают ограничения. Меньшие модели быстрее и дешевле, но они все еще могут ошибаться. Это означает, что интересная инженерная задача заключается не просто в выборе модели, а в создании вокруг нее системы, включая сторожевые механизмы, резервные варианты, проверки достоверности и детерминированную логику там, где это необходимо. ОСНОВНЫЕ ВЫВОДЫ • Модели System One принимают решения ИИ с ограничениями, а не генерируют длинный текст. • Низкая задержка и низкая стоимость Jev делают частое принятие решений ИИ гораздо более практичным. • Структурированные решения ИИ могут стать многократно используемыми программными примитивами. • Кодирующих агентов потенциально можно моделировать как системы переходов состояний с ограниченными действиями. • Меньшим моделям по-прежнему необходимы системы, верификация и резервные механизмы. ВРЕМЕННЫЕ МЕТКИ 00:00 Почему модели System One меняют программное обеспечение ИИ 00:32 Обзор эпизода 02:01 Что такое Jev и почему это важно? 04:54 Как Jev принимает решения ИИ по-другому 06:54 Выбор, оценки и структурированные результаты ИИ 09:17 Как Jev использует оценки и уровень уверенности 11:57 Что такое бинарные решения ИИ? 14:50 Почему Jev такой быстрый и дешевый 15:51 Почему задержка Jev меняет возможности 19:11 Использование Jev для принятия структурированных и параллельных решений 22:21 Преобразование решений ИИ в типобезопасные программные примитивы 25:12 Почему быстрый ИИ делает циклы ИИ незаметными 27:48 Использование Jev для поиска кода с помощью ИИ 29:39 Создание агентов программирования на основе ограниченных действий 33:05 Почему модели System One хорошо работают для задач с ограничениями 33:45 Почему Jev так хорош в симуляциях видеоигр 36:00 Будет ли каждая компания, занимающаяся ИИ, создавать модель System One? 38:02 Как модели ИИ и программная инфраструктура развиваются вместе 39:36 Почему для небольших моделей ИИ все еще нужен вспомогательный модуль 40:35 Создание клиента Jev и замена реализаций 41:13 Проектирование систем ИИ на основе принципов программного обеспечения РЕСУРСЫ / УПОМЯНУТЫЕ ЛЮДИ • Демонстрационный код для этого эпизода — github.com/ai-that-works/ai-that-works/tree/main/2026-09-22-all-about-jev • Быстрый старт BAML — boundaryml.com/quickstart • Изучение BAML — boundaryml.com/explore • Присоединяйтесь к обсуждению — Discord: boundaryml.com/discord · GitHub: github.com/boundaryml/baml · Twitter: twitter.com/boundaryml РАССМОТРЕНО ТЕМЫ Jev TypeSafe AI Модели System One Модели принятия решений в ИИ ИИ классификация Структурированные выходные данные ИИ Модели выбора Модели оценки Бинарная ...