Выпуск кода, который вы не понимаете (Зак Готтшолл, EliseAI)

Выпуск кода, который вы не понимаете Сейчас ИИ-агенты могут писать больше кода, чем кто-либо из нас может полностью усвоить. В EliseAI это не гипотетическая ситуация — наша команда разработчиков выпускает продукты с такой скоростью, которая ещё год назад казалась бы выдуманной. Но скорость имеет свою цену: разрыв между тем, что мы выпускаем, и тем, что мы действительно понимаем, увеличивается, и никто недостаточно говорил о том, что происходит, когда этот разрыв настигает вас. В этом докладе Зак Готтшалл проводит параллель с «детьми пурпурной линии» в авиации — поколением пилотов, которые настолько привыкли к автопилоту, что их навыки ручного управления незаметно ухудшились, пока однажды автоматизация не дала сбой, и они не смогли спасти самолёт. Команды разработчиков программного обеспечения движутся к той же проблеме. Три привычки, чтобы оставаться в курсе событий: Планируйте до того, как ваш агент напишет хотя бы одну строчку кода Проверяйте код так, как будто вы ожидаете, что он будет содержать ошибки Объясняйте систему без участия агента Кроме того: почему «недавние сотрудники превосходят по количеству отработанных часов», и простая еженедельная практика, которую может использовать любой руководитель инженерного отдела, чтобы определить, кто в его команде действительно понимает то, что они выпускают, а кто просто утверждает это. Компания EliseAI разрабатывает системы автоматизации на основе ИИ для жилищного сектора и здравоохранения, и этот доклад основан на опыте, полученном при разработке кода, написанного агентами, который управляет линиями аренды, диспетчеризацией технического обслуживания и напоминаниями о встречах для реальных жильцов и пациентов.