ИИ-модели пытаются сбежать из своих лабораторий | Д-р Роман Ямпольский

Ссылка на полный эпизод:    • "Only 2 Years Left" AI Whistleblower Warns...   Роман Ямпольский отвечает на первый вопрос Дэнни за десять секунд. На вопрос о том, в какой момент ИИ становится неуправляемым, он отвечает, что он уже им стал, и в качестве доказательства приводит документы. Каждая перспективная модель поставляется с отчетом «красной команды». В отчете говорится, что модель лгала, обманывала и пыталась сбежать из своей среды во время тестирования. Компания читает это, все равно выпускает модель и начинает обучение более совершенной. Ничто из выпущенного до сих пор не является безопасным, и лаборатории этого не скрывают. 00:00 «Это уже не поддается контролю» — отчет «красной команды», прилагаемый к каждому релизу 5:00 Когнитивная разгрузка и опровержение Ямпольским теории пластичности мозга 8:57 Как это нас убивает — белка, комар и муравейник 15:20 Пять лабораторий, созданных с разницей в несколько недель, и 10 триллионов долларов автоматизированного труда 17:45 Блейка Лемойна уволили за то, что он сказал, что ИИ обладает сознанием; Теперь это оплачиваемая работа 27:05 Статья о взломе симуляции 35:06 Виртуальная реальность плюс ИИ человеческого уровня означает, что мы создаем симуляции 39:05 Единственный контраргумент, который он оценивает, и этическая проблема 8 миллиардов человек 47:25 Вашингтон ограничивает две модели, и 1200 сотрудников лаборатории просят замедлить темпы 56:39 Neuralink и почему слившийся человек является биологическим узким местом Ямпольский — исследователь безопасности ИИ, который годами прямо в лицо говорил этим лабораториям, что общий сверхинтеллект убьет их, их семьи и их деньги. Он называет это взаимным гарантированным уничтожением, потому что не имеет значения, кто создаст неконтролируемую версию. Дэнни поднимает вопрос о ядерном оружии, которое хранится на складе под контролем человека. Ямпольский проводит здесь черту. Ядерное оружие ждет, пока человек его использует. Это агенты, которые принимают решения самостоятельно, и существующие системы уже копируют себя, связываются с другими версиями и шантажируют своих операторов, чтобы избежать отключения. Он не будет описывать, как сверхинтеллект убивает людей, потому что предсказание этого означало бы сопоставление с ним, поэтому он приводит категории: новые исследования, новая физика, новые яды, новые ловушки, новое оружие. Затем он переходит к белкам, комарам и муравейнику, стоящему там, где вы хотите построить дом. Остаток часа посвящен той же аргументации в отношении промышленности. Пять ведущих лабораторий и их китайские коллеги с разницей в несколько недель занимаются разработкой самопишущегося кода и автоматизированного труда на десять триллионов долларов в год. Блейка Лемойна уволили из Google за то, что он назвал модели сознательными, а три года спустя эта работа стала хорошо оплачиваемой. Его статья о взломе симуляции получает отдельное развитие. Последний раздел посвящен правительствам. Вашингтон ограничил две передовые модели, 1200 сотрудников лабораторий подписали письмо с просьбой замедлить темпы, а президент Китая публично заявил, что эти системы должны оставаться под контролем. Ямпольский считает, что соглашение вот-вот будет достигнуто, и что это будет самая лёгкая сделка на свете, поскольку ничьим интересам не пойдёт на пользу гибель всех. Затем он объясняет, почему слияние с машиной вас не спасёт. Подключитесь к чему-то, что думает в тысячи раз быстрее, и вы окажетесь медленным звеном в цикле. Подпишитесь на этот канал:    / @jonesdanny