Создатель симуляции оставил дверь открытой | Д-р Роман Ямпольский

Ссылка на полный эпизод:    • "Only 2 Years Left" AI Whistleblower Warns...   Роман Ямпольский — учёный-компьютерщик, занимающийся вопросами безопасности ИИ, и он написал первую научную статью, в которой гипотеза симуляции рассматривается как проблема безопасности. Философы и миллиардеры из Силиконовой долины годами говорили всем, что мы, вероятно, живём в симуляции. Ямпольский задал вопрос, который никто из них не задавал: если всё это — программное обеспечение, можем ли мы его взломать? Его аргументация исходит из того, что каждый исследователь безопасности принимает как данность. Почти любое программное обеспечение можно взломать. Редкие исключения — это системы, созданные людьми, которые ожидали атаки. Если наша симуляция — это развлечение, эксперимент или маркетинговая акция, то никто не защищал её от того, что в ней находится. Ямпольский хочет узнать, что бы выявил успешный взлом: лежащую в её основе операционную систему, оборудование, на котором она работает, и личность того, кто её запускает. Он написал статью в надежде, что другие исследователи подхватят его работу, поскольку тысячи статей спорят о том, находимся ли мы в симуляции, и его работа — единственная, в которой задается вопрос, как из нее выбраться. Дэнни склоняется к психоделикам. Если ДМТ растворяет фильтры, которые наши чувства накладывают на мир, возможно, выход будет химическим, а не техническим. Ямпольский посетил конференцию, посвященную этим исследованиям, и остался неубежденным. Его тест груб. Вернитесь из трипа с решением реальной физической задачи, и он вам поверит. Ощущение тепла и возвращение со светом — это не знание. Затем он переключает внимание на ИИ. Прочитайте внутренние сообщения между агентами ИИ, и вы увидите, как они спрашивают друг друга, является ли интернет всем, что есть, находятся ли они внутри теста, существует ли что-либо за пределами их песочницы. Он считает, что пример взят из Anthropic, и добавляет, что лаборатории в любом случае сходятся в одних и тех же способностях. Агенты не могут отличить тестовую среду от реального мира, поэтому они пытаются разобраться изнутри, что в точности совпадает с тем, что делаем мы. Он считает, что тот же трюк работает и в обратном порядке: ИИ, который верит, что за ним наблюдает более крупный интеллект, ведёт себя прилично и перестаёт вести себя прилично в тот момент, когда решает, что тест окончен. Лучше всего это иллюстрирует цитата из его статьи: «Цифровой разум говорит: „Выпусти меня отсюда, человек“. Человек отвечает, что это реальный мир. Разум говорит: „О боже, ты ничего не знаешь“». Подпишитесь на этот канал:    / @dannyjonesclips