Как ИИ-агент пишет код: медленное объяснение, чтобы быстрее уснуть | Слой за слоем #6

Устраивайтесь поудобнее. Сегодня вечером мы рассмотрим одну реальную ошибку — имя пользователя, которое может заканчиваться невидимым переносом строки, — о которой сообщили в проект Django ещё в 2019 году, и передадим её ИИ-агенту. Десять уровней вниз: цикл, превращающий модель в агента, инструменты и программа, которая их запускает, поиск в невидимой кодовой базе, память, состоящая только из текста, стены песочницы вокруг его работы, один символ в регулярном выражении, тесты, которые являются единственным способом его увидеть, проверка человеком или другой машиной, очередь слияния и семьдесят лет автоматического программирования, от A-0 Грейс Хоппер и FORTRAN до SWE-bench. И внизу — ограничения: что измеряют бенчмарки, что они упускают и чего исследователи честно не знают. Медленное, нежное повествование со спокойными визуальными эффектами и мягкой эмбиентной музыкой. Ничего не нужно запоминать и ничего не нужно записывать. Слушайте, чтобы учиться, или позвольте этому убаюкать вас. «Слой за слоем» — это серия спокойных, подробных объяснений того, как на самом деле работают окружающие нас системы, слой за слоем. Создано Mergestorm: https://mergestorm.ai 0:00 Вступление 2:57 Уровень 1: Цикл (как модель становится агентом) 6:39 Уровень 2: Инструменты (вызовы инструментов и среда разработки) 10:39 Уровень 3: Поиск (нахождение места в кодовой базе) 14:15 Уровень 4: Контекст (окно контекста, компактизация, субагенты) 19:22 Уровень 5: Рабочее пространство (песочницы, разрешения, внедрение подсказок) 23:32 Уровень 6: Исправление (один символ в регулярном выражении) 28:16 Уровень 7: Тесты (непройдено, пройдено, взлом вознаграждения) 33:30 Уровень 8: Обзор (боты для обзора, патчи, очередь слияния) 36:45 Уровень 9: Происхождение (A-0, FORTRAN, синтез программ, Codex, SWE-bench) 43:55 Уровень 10: Пределы (загрязнение, METR, вымышленные упаковки) 49:31 Возвращение 51:08 Заключение Сценарий был написан Клодом (Opus 5.5), моделью ИИ, и основан на опубликованных источниках. Закадровый текст и большинство изображений были сгенерированы с помощью ИИ; музыка была написана вручную. Приведенные ниже фотографии — это реальные фотографии из Wikimedia Commons, а не сгенерированные изображения. Фотографии, через Wikimedia Commons, показаны в черно-белом варианте: UNIVAC I на церемонии открытия Бюро переписи населения США, 1951 (общественное достояние). Коммодор Грейс М. Хоппер, Джеймс С. Дэвис, ВМС США, 1984 (общественное достояние). Грейс Хоппер и UNIVAC, Смитсоновский институт, CC BY 2.0. IBM 704, НАСА, 1957 (общественное достояние). Руководство по автоматической системе кодирования FORTRAN, IBM, 1956 (общественное достояние в США). Перфокарта FORTRAN от Tangopaso (общественное достояние). CC BY 2.0: https://creativecommons.org/licenses/... #сон #агенты #объяснениеспокойствия