Метод центрифуги: как «вытрясти» глупости из ИИ

Подход Лады Кесселер к проектированию циклов предельно прост: дать агенту один шаг, заставить его записать результат в файл, затем прочитать его обратно и повторить. Она называет это центрифугой. Если вращать достаточно быстро, то на выходе окажется всякая ерунда. Ведущий инженер Logic20/20 последние полтора года занималась разработкой основных правил, навыков и циклов уточнения, которые противостоят настройкам по умолчанию, поставляемым с агентами, начиная с указания перестать пытаться ей угодить. Попутно она объясняет, почему она меньше доверяет тестам, написанным ИИ, чем коду, написанному ИИ, почему поле описания в навыке агента никогда не предназначалось для людей и почему большинство команд, стремящихся к созданию программной фабрики, вот-вот утонут в мусоре. Что мы обсудим: – Почему основные правила работы агента должны давать модели задание не соглашаться с вами – Цикл уточнения, который приводит к качеству, когда первая попытка никогда не удается – Почему агент работает только в том случае, если он делает одно действие за раз – Эскизные прототипы: замена вашего кода файлом Markdown и агентом – Почему тесты, сгенерированные ИИ, опаснее кода, сгенерированного ИИ – Программные фабрики и что происходит, когда вы пытаетесь перейти на них за одну ночь AI DevCon возвращается в Нью-Йорк в ноябре этого года Получите скидку 15% на билет с кодом POD15 https://tessl.io/devcon#tickets Главы: 00:00:00 - Введение 00:03:38 - Использование ИИ для всего, а не только для кода 00:06:15 - Основные правила: исправление настроек по умолчанию, поставляемых с агентами 00:10:02 - Навыки агентов и почему описание не подходит для людей 00:13:09 - Проектирование циклов: как вы на самом деле получаете к качеству 00:16:03 - Самое большое заблуждение о программных агентах 00:20:43 - Эскизные прототипы и ограничения архитектуры ИИ 00:27:48 - Обратное направление: вы принимаете решения 00:31:58 - Почему она доверяет тестам ИИ меньше, чем коду ИИ 00:35:00 - Программные фабрики или утопление в мусоре Создайте свою программную фабрику, один рабочий процесс за раз, с Tessl: https://tessl.co/k2t 🔔 Подпишитесь на еженедельные выпуски о разработке, ориентированной на ИИ На каком этапе разработки вы находитесь, все еще надеетесь на удачную первую попытку или уже топчетесь на месте? Расскажите нам в комментариях.