Василиск Роко: объяснение (и опровержение!)

«Василиск Роко» — одна из самых странных философских историй ужасов в интернете: удалённый пост на LessWrong, слухи об «информационных опасностях», история Илона Маска и Граймс, а также утверждение, что будущий ИИ может наказать вас за то, что вы не участвовали в его создании. Но в чём же на самом деле заключается суть аргумента? В этом эпизоде ​​«Онтологии в объяснениях» мы замедляем темп и возвращаемся к первоисточникам. Я разбираю: • Что на самом деле утверждал Роко • Почему рационалистическое сообщество запаниковало • Как это перекликается с пари Паскаля • И почему рассуждения рушатся под воздействием элементарного философского анализа Попутно мы отделяем миф от реальности, критикуем математику ожидаемого значения и рассматриваем, что на самом деле пытался (и в основном безуспешно) сказать оригинальный пост. Спойлер: это не столько «апокалипсис ИИ», сколько «запутанный пост в блоге плюс теория ошибочных решений». Трогайте траву. Будьте добры к реальным людям. Не бойтесь воображаемых симуляций пыток. Ресурсы: Моё видео о проблеме Ньюкомба:    • Newcomb’s Problem Explained: One Box Or Two?   Моё видео о пари Паскаля:    • Pascal’s Wager Explained   BLIT https://en.wikipedia.org/wiki/BLIT_(s..., https://www.infinityplus.co.uk/storie... Оригинальный пост LessWrong: https://basilisk.neocities.org/ Разъяснения LessWrong по поводу «Василиска Роко»: https://www.lesswrong.com/posts/WBJZo... Бремя альтруиста: https://www.lesswrong.com/posts/t7tk2... -Интервью на Doom Debates:    • Alignment is EASY and Roko's Basilisk is G...   -Определение CEV: https://www.lesswrong.com/w/coherent-... -Эпизод Behind the Bastards: https://podcasts.apple.com/us/podcast...