Чёрная дыра стоимостью 15 квадриллионов долларов, тянущая человечество к вымиранию | Пионер ИИ Ст...

Стюарт Рассел построил свою карьеру на создании более умных машин. Остаток своей жизни он посвящает тому, чтобы они не сделали нас ненужными. | Подпишитесь на Futurology! https://linkin.bio/futurology В этом году два влиятельных генеральных директора, занимающихся ИИ, заявили, что хотят прекратить его разработку и сделают это… если все остальные тоже согласятся. Тем не менее, они стремительно растут в цене акций, основываясь на прогнозируемом сокращении миллионов рабочих мест. Если вы хотите разжечь народное восстание против ИИ, лучшего плана вы не найдете. В этом эпизоде ​​Стюарт Рассел, основатель Центра человекосовместимого ИИ Калифорнийского университета в Беркли, описывает приз в 15 квадриллионов долларов — сингулярность из будущего, которая поглотит почти все деньги на Земле. Если такая опасная система выйдет из-под контроля, единственным ответом будет масштаб проблемы: нам, вероятно, придется отключить интернет. Подпишитесь на Futurology! YouTube:    / @futurologypod   Полный плейлист:    • The Futurology Podcast   Apple Podcasts: https://podcasts.apple.com/us/podcast... Spotify: https://open.spotify.com/show/2I38HvH... Главы (0:00) Введение (1:56) Тревога по поводу рисков ИИ в 2017 году (9:13) Сможем ли мы оставаться под контролем машин, которые умнее нас? (17:31) Потеря контроля и риск вымирания (29:58) Приз в 15 квадриллионов долларов, который заставляет руководителей ИИ продолжать развиваться (36:00) Как выглядит катастрофа ИИ масштаба Чернобыля (44:43) Придется ли нам отключить интернет, чтобы выжить? (57:22) Распределение богатства ИИ за пределы нескольких победителей (1:08:54) Переосмысление образования, когда ИИ мыслит (1:20:03) Что мы делаем неправильно сегодня Совместимость с человеком: Искусственный интеллект и проблема управления — Стюарт Рассел (Книга, 2019) https://www.penguinrandomhouse.com/bo... Искусственный интеллект: Современный подход — Стюарт Рассел и Питер Норвиг (Учебник, первое издание 1995) https://aima.cs.berkeley.edu/ Сверхинтеллект: Пути, опасности, стратегии — Ник Бостром (Книга, 2014) https://global.oup.com/academic/produ... Размышления о первой сверхинтеллектуальной машине — И. Дж. Гуд (Эссе, 1965) https://exhibits.stanford.edu/feigenb... Интеллектуальные машины, еретическая теория — Алан Тьюринг (Лекция, ок. 1951) https://gwern.net/doc/ai/1951-turing.pdf Экономические возможности для наших внуков — Джон Мейнард Кейнс (Эссе, 1930) https://www.economicsnetwork.ac.uk/ar... Алмазный век: или Иллюстрированный букварь для юной леди — Нил Стивенсон (Роман, 1995) https://www.harpercollins.com/product... Дюна — Фрэнк Герберт (роман, 1965) https://www.penguinrandomhouse.com/bo... Эревон, или За рубежом — Сэмюэл Батлер (роман, 1872) https://www.gutenberg.org/ebooks/1906 Где найти Стюарта Рассела Страница преподавателей: https://people.eecs.berkeley.edu/~rus... Центр человекосовместимого ИИ: https://humancompatible.ai/ Человекосовместимый (книга): https://www.penguinrandomhouse.com/bo... Показать идеи Хотите оставить отзыв? Пишите на электронную почту: futurology@berggruen.org Узнайте больше об Институте Берггрюена: https://www.berggruen.org Подписывайтесь на Futurology! Instagram:   / futurologypod   Twitter/X: https://www.x.com/futurologypod TikTok:   / futurologypod   Facebook:   / berggrueninst   LinkedIn:   / berggrueninst   Bluesky: https://bsky.app/profile/futurologypo... Credits Исполнительные продюсеры: Николас Берггрюен, Натан Гарделс, Нильс Гилман, Дон Накагава и Джейсон Хох Продюсеры: Грант Слейтер, Алекс Гарделс и Наталия Рамос Ассоциативный продюсер: Элисса Мардиней Музыкальная тема: Маркус Багала Звукорежиссёры: Аарон Бастинелли и Кайл Скотт Уилсон Futurology — это проект Studio B и Wavland для Института Берггрюена в Лос-Анджелесе, штат Калифорния.