Почему цели — враги величия | Кеннет Стэнли

Что если самый верный способ потерпеть неудачу в чем-то амбициозном — это иметь четкий план достижения цели? Что если робот, который не осознает, что пытается ходить, учится быстрее, чем тот, который был специально обучен ходить? Кеннет Стэнли — один из самых провокационных умов в области искусственного интеллекта. Бывший профессор и руководитель группы в OpenAI, он является соавтором культовой книги «Почему величие нельзя спланировать» — манифеста, который бросает вызов всему, что мы, как нам кажется, знаем о достижениях. Его исследования выявили нечто шокирующее: в экспериментах с ИИ роботы, стремящиеся к новизне, учились ходить лучше, чем роботы, специально обученные ходить. За последние два года Кен перенес эти теории из лаборатории в реальный мир. Будучи старшим вице-президентом по открытым задачам в Lila Sciences, он создает научный сверхинтеллект — ИИ, который автономно открывает новые биологические и химические открытия. Он также является основателем Maven, социальной сети, призванной заменить конкурсы популярности подлинной случайностью. Его работа раскрывает глубокую истину: путь к величию вымощен непредсказуемыми препятствиями, а величайшие открытия совершаются, когда следуешь тому, что интересно, а не тому, что запланировано. -- Коуч для основателей стартапов в сфере ИИ, финансируемых венчурным капиталом, по вопросам стратегии, ясности и того, что действительно важно. Если этот эпизод вам понравился, давайте вместе исследуем, что возможно. Сотрудничество со мной: https://duncancj.com --- Что вы узнаете: 🎨 Парадокс Picbreeder Как люди, занимающиеся скрещиванием случайных изображений, открыли для себя автомобили и бабочек — но только когда не искали их Как инопланетное лицо стало автомобилем (и никто не мог этого предсказать) Принцип: в сложных пространствах ступеньки не похожи на конечные пункты назначения 🤖 Неловкость от шагающего робота Как робот, стремящийся к новизне, научился ходить лучше, чем тот, который был обучен ходить Критика не в магии новизны, а в фундаментальном недостатке целей 🧭 Креативность как интеллектуальное принятие решений без знания того, куда вы идете Почему следование за интересным — это не случайность, а ваш самый острый компас Как симметрия, колебание и другие принципы становятся ступеньками Метафора коллекционирования: прогресс как средство сбора, а не оптимизация для достижения целей 💼 Основатель Дилемма: метрики против смысла Как распределить ресурсы между безопасностью и случайностью Почему всегда есть оправдание для консервативности (инвесторы, советы директоров, гранты) Сожаление о том, что вы никогда не следовали своей истинной страсти, потому что думали, что она не получит финансирования 🔬 Научный сверхинтеллект и будущее творчества Станут ли люди кураторами идей, сгенерированных ИИ, или сохранят творческое преимущество Почему 100 триллионов параметров разума (человеческий мозг) могут иметь бесконечное количество уникальных ниш Аргумент привратника: люди должны решать, какие эксперименты получать одобрение, даже если мы не до конца понимаем Ключевые выводы: «Когда мы применили поиск новизны к обучению робота ходьбе, робот, который искал новизну, научился ходить лучше, чем робот, которого вознаграждали за лучшую ходьбу, что звучит совершенно парадоксально. Робот, который даже не знает, что он пытается сделать, становится лучше, чем тот, которого обучают этому». «Креативность — это способность принимать разумные решения, не зная, куда вы движетесь. У вас есть несколько вариантов. Вы не знаете, куда идете, но все равно выбираете правильное направление. Вы выбираете направление, которое считаете наиболее интересным. Вещи, обладающие внутренним потенциалом, интересны, и у нас, людей, очень острое чутье на то, что интересно». 🎯 Идеально подходит для: Основателей ИИ, ставящих под сомнение свою одержимость планом развития, технических руководителей, заинтересованных в системах открытого поиска, всех, кто чувствует пустоту от достижения показателей без удовлетворения, или разработчиков, изучающих, почему самая креативная сила природы (эволюция) не имеет плана. ⏰ Временные метки: 00:00 - Введение: Когда цели становятся врагом 03:01 - Как эксперименты с ИИ привели к социальной критике 08:00 - Эксперимент Picbreeder: разведение изображений в интернете 15:00 - Автомобиль из инопланетного лица (обманчивые шаги) 21:50 - Это не случайность: острый компас интересности 25:36 - От ИИ к жизненным урокам: разрешение следовать любопытству 32:55 - Космический корабль, который выглядел как ошибка 42:19 - Заблудиться в Санкт-Петербурге: метафора коллекции 44:59 - Шаги, которые выглядели как ошибки 49:48 - Советы основателю, чувствующему себя опустошенным, несмотря на достижение показателей 53:29 - Баланс между инвесторами, советом директоров и открытым исследованием 1:03:12 - Уилл Люди становятся кураторами творчества ИИ? Подписывайтесь на наш канал, чтобы не пропустить важные обсуждения, и расскажите в комментариях: какой шаг в вашей кар...