Экстремальная разработка программного обеспечения: 1 млн строк кода, 1 млрд токов в день, 0% чело...
Latent Space и AI Engineer
0:00 / 0:00
Экстремальная разработка программного обеспечения: 1 млн строк кода, 1 млрд токов в день, 0% чело...
58 141 просмотр · 5 месяцев назад
Latent Space и AI Engineer
58 141 просмотр · 5 месяцев назад
Мы с гордостью представляем это в преддверии выступления Райана на AIE Europe. Нажмите на колокольчик, чтобы получить уведомление о начале трансляции! Участники: приготовьтесь к сессии вопросов и ответов с Вибху после выступления Райана.
Подвинься, контекстная инженерия. Теперь настало время для инженерии на основе Harness.
Райан Лопополо из OpenAI возглавляет это движение, недавно опубликовав обширное эссе на эту тему, которое стало предметом обсуждения. В нем Райан приоткрыл завесу тайны над тем, как недавно объявленная команда OpenAI Frontier стала ведущим пользователем Codex от OpenAI, используя кодовую базу объемом 1 миллион строк кода без единого написанного человеком кода и, что особенно важно для поклонников Dark Factory, без кода, прошедшего проверку человеком перед слиянием. Райан с восхищением говорит об этом, называя это почти «халатностью», если вы не используете 1 миллиард токенов в день (примерно 2-3 тысячи долларов в день на расходы токенов, исходя из рыночных курсов и предположений о кэшировании).
В течение последних пяти месяцев они проводили экстремальный эксперимент: создавали и выпускали внутренний бета-продукт без какого-либо кода, написанного вручную. В ходе эксперимента они внедрили другую модель инженерной работы: когда агент давал сбой, вместо того чтобы предлагать ему улучшить работу или «постараться лучше», команда анализировала, «каких возможностей, контекста или структуры не хватает?».
Результатом стала Symphony, «библиотека-призрак» и эталонная реализация Elixir, которая создает масштабную систему агентов Codex, каждая из которых управляется с учетом специфики спецификации PRD, но без полной реализации. См. ниже:
https://openai.com/index/harness-engi...
https://github.com/openai/symphony/tr...
Временные метки
00:00:00 Введение: Harness Engineering и OpenAI Frontier
00:02:20 Биография Райана и эксперимент «без кода, написанного человеком»
00:08:48 Люди как узкое место: системное мышление, наблюдаемость и рабочие процессы агентов
00:12:24 Навыки, вспомогательные средства и кодирование инженерного вкуса в контексте
00:17:17 Что по-прежнему делают люди, что уже есть у агентов и почему программное обеспечение должно быть понятным для агентов
00:24:27 Делегирование жизненного цикла запросов на слияние: рабочие деревья, конфликты слияния и нефункциональные требования
00:31:57 Программное обеспечение, управляемое спецификациями, «призрачные библиотеки» и путь к Symphony
00:35:20 Symphony: Организация работы большого количества программистов
00:43:42 Формирование навыков, самосовершенствующиеся рабочие процессы и обучение всей команды
00:50:04 Проектирование CLI, уровни политик и создание эффективных с точки зрения токенов инструментов для агентов
00:59:43 С чем все еще сталкиваются современные модели: продукты «ноль к одному» и сложные рефакторинги
01:02:05 Видение Frontier в отношении развертывания ИИ в корпоративной среде
01:08:15 Культура, юмор и обучение агентов принципам работы компании
01:12:29 Использование системы Harness против обучения, прогресс модели Codex и принцип «просто делай что-нибудь»
01:15:09 Bellevue, найм персонала и расширение OpenAI за пределы Сан-Франциско