Практическое руководство по самосовершенствующемуся ИИ | Дэвид Деминг

Рекурсивное самосовершенствование (РСС) превратилось из малоизвестной, занудной концепции в главную новость. Это сленг из района залива Сан-Франциско, обозначающий использование искусственного интеллекта для улучшения… искусственного интеллекта. Почему это так всех пугает? И почему это так тесно связано со страхом перед вышедшим из-под контроля сверхинтеллектуальным ИИ? В первой части двухсерийного цикла о РСС Дэвид Деминг объясняет, что означает РСС, как обучаются модели ИИ и как выглядит автономная НИОКР на практике. Он рассматривает данные из передовых лабораторий и академических исследований о том, насколько мы близки к тому, чтобы ИИ управлял собственным исследовательским процессом. Затем он также обращается к экономике РСС. В недавней статье задается вопрос, может ли рекурсивное самосовершенствование привести к вертикальному росту возможностей ИИ — тому, что некоторые называют «взлетом». Дэвид анализирует этот аргумент и пытается составить предположительную оценку того, насколько мы близки к цели. Спойлер: мы ещё не достигли её. Вторая часть будет посвящена взаимосвязи между RSI и выравниванием, что является общей проблемой при попытке заставить модели ИИ делать то, что мы от них хотим. Для получения заметок к выпуску и полных эпизодов подпишитесь на подкаст «The Context Window with David Deming»: https://thecontextwindowpodcast.subst... Слушайте на Spotify: https://open.spotify.com/show/033ny16... Слушайте на Apple Podcasts: https://podcasts.apple.com/us/podcast... РАЗДЕЛЫ 00:00 Может ли ИИ создать лучшую версию самого себя? 00:45 Почему синдром повторяющихся травм (RSI) всех беспокоит 05:30 Что означает рекурсивное самосовершенствование 06:05 Как обучаются передовые модели ИИ 08:10 Внутренний и внешний циклы исследований 10:15 AlphaEvolve и алгоритм Штрассена 13:40 Машина Дарвина-Гёделя и автоисследование 14:25 Отчеты из передовых лабораторий 16:50 График временного горизонта METR 17:35 Сложные проценты и ИИ взлет 19:00 Экономика рекурсивного самосовершенствования 20:00 Убывающая отдача 22:45 Когда петля обратной связи становится самоподдерживающейся 25:20 Оценка того, насколько мы близки к взлету 27:50 15% для взлета и оценка в 9% 29:35 Два горьких урока -- АВТОРЫ «Контекстное окно» ведет Дэвид Деминг, экономист по вопросам труда и декан Гарвардского колледжа имени Даноффа Исполнительный продюсер: Дениз Коллер Консультанты-продюсеры: Тим Смит и Джонатан Палумбо #rsi #ai #DavidDeming