20 рисков ИИ | Откровенно 161

(Запись от 27 сентября 2026 г.) На этой неделе Нейт рассматривает искусственный интеллект через метафору Икара, задаваясь вопросом, какие риски возникают, когда мы внедряем триллионы когнитивных работников в цивилизацию, которая уже испытывает переизбыток ресурсов. Подчеркивая, что наше общество уже в значительной степени игнорирует истощающиеся запасы ископаемого топлива, питающего нашу жизнь, Нейт прослеживает, как ИИ может усилить нашу потребность в экономическом росте, а не помочь нам от нее избавиться. Он также затрагивает тему оптимизации — как решение исключительно задач на эффективность подрывает устойчивость и гибкость, которые позволяют нашим человеческим системам адаптироваться к энергетическому и материальному истощению. Последняя часть анализа Нейта обращается к рискам, связанным с концентрацией власти и последствиями усиления социальной интеграции ИИ. Он рассматривает долгосрочные последствия таких тенденций, как сокращение возможностей для начинающих специалистов, растущий когнитивный долг и усреднение результатов исследований, СМИ и даже повседневной жизни. Он также углубляется в потенциальные краткосрочные риски, такие как возникновение технофеодализма и снижение стоимости наблюдения. Нейт завершает эпизод, не называя последний риск, утверждая, что наиболее важным последствием трансформационных технологий может оказаться то, что никто не может предвидеть. Как «когнитивные работники» ИИ взаимодействуют с логикой экономического суперорганизма? Что происходит, когда цивилизация, оптимизированная для роста без учета устойчивости, внедряет такую ​​технологию, как ИИ? И может ли человечество выбрать срединный путь, когда системы, управляющие ИИ, вознаграждаются за крайности? Примечания к выпуску и дополнительная информация: https://www.thegreatsimplification.co... Хотите узнать общий обзор «Великого упрощения» за 30 минут? Посмотрите наш анимационный фильм:    • The Great Simplification | Film on Energy,...   --- Поддержите Институт изучения энергетики и нашего будущего: https://www.thegreatsimplification.co... Подпишитесь на нашу рассылку Substack: https://natehagens.substack.com/ Присоединяйтесь к нашему каналу Hylo и общайтесь с другими слушателями: https://www.hylo.com/groups/the-great... --- 0:00 Момент Икара в истории человечества 2:33 Две армии суперорганизма 4:53 Почему Дедал построил крылья 6:08 Риск 20: Ископаемая зависимость 8:08 Риск 19: Аппетит 10:06 Риск 18: Отскок 11:54 Риск 17: Дефляция 14:52 Риск 16: (Отсутствие) устойчивости 16:56 Риск 15: Поглощение библиотеки 19:07 Слишком низкий полет 19:42 Риск 14: Разрушенное ученичество 22:13 Риск 13: Отупление людей 24:37 Риск 12: Окружающий язык 27:27 Риск 11: Конец общей реальности 30:22 Риск 10: Захваченная привязанность 33:10 Риск 9: Дети 36:07 Слишком высокий полет 36:50 Риск 8: Технофеодализм 39:12 Риск 7: Вторая бифуркация 42:35 Риск 6: Когнитивный колониализм 44:49 Риск 5: Наблюдение 47:21 Риск 4: Гонка и финишная линия 50:12 Риск 3: Военное слияние 52:01 Риск 2: Потеря контроля 54:39 ​​Риск 1: Безымянный 56:14 Брейгель и выбор Дедала 59:10 Титры