Ведущий эксперт по ИИ об экзистенциальных рисках искусственного интеллекта

— До появления сверхинтеллекта осталось всего несколько лет, и заметим ли мы вообще, если созданные нами системы начнут иметь моральное значение? — Ник Бостром — философ, который популяризировал сверхинтеллект. Его книга 2014 года определила эту область, а его недавняя «Глубокая утопия» задает более сложный вопрос: для чего нужна жизнь, когда машины смогут делать всё лучше, чем мы? — В этом эпизоде ​​SparX он говорит [ведущему], что у нас пока нет сверхинтеллекта, но мы наблюдаем ограниченные формы искусственного общего интеллекта, что передовые лаборатории, использующие ИИ для ускорения собственных исследований, могут запустить рекурсивное самосовершенствование, и что он больше не может исключать временные рамки всего в несколько лет. Он утверждает, что результат, вероятно, будет либо очень хорошим, либо очень плохим, рассматривает три способа, которыми это может привести к провалу, и объясняет, почему он теперь работает над проблемами, которые имеют значение только в течение следующих 6-18 месяцев — философия, как он выражается, с дедлайном. — Мы также рассматриваем полную безработицу как конечную цель, а не катастрофу, как выглядит система образования, когда она не готовит работников, почему подавление обмана в модели повышает вероятность того, что она будет претендовать на сознание, и почему построение доверия к системам ИИ сейчас может быть мерой безопасности, а не результатом сантиментов. Разделы -00:00 Сверхинтеллект в 2014 году против ИИ сегодня -00:48 Искусственный общий интеллект и сверхинтеллект — это не одно и то же 01:46 Как на самом деле начинается взрыв интеллекта - 04:47 Является ли ИИ сейчас чистым положительным фактором? -05:21 Почему результат бинарен -06:17 Три способа, которыми это может пойти не так 07:19 Это технологическая проблема или проблема политики? -07:56 Может ли какая-либо лаборатория позволить себе замедлиться? 09:24 Что 30% безработицы среди офисных работников делает с политикой 10:00 Действительно ли ИИ отнимет рабочие места? 11:21 Для чего на самом деле нужна работа? 15:35 Восстановление образования для мира без работы 17:50 Является ли нейронная сеть разумом? 19:44 Подавление обмана, и модель заявляет о наличии сознания 24:44 Нужна ли системам ИИ юридическая защита? 26:20 Кнопка увольнения Anthropic и собеседования при увольнении 27:34 Заключение сделки с несовместимым ИИ 29:14 ИИ-ангел-хранитель для каждого человека 30:58 Что удивит Ника через 10 лет? 🎙️ Sparx — беседы о том, как глубокие технологии меняют политику, общество и экономическую жизнь. #NickBostrom #Сверхинтеллект #БезопасностьИИ #AGI #БудущееРаботы #СознаниеИИ Два замечания к этому описанию. Главы написаны в форме утверждений, а не тем, что позволяет им попадать в разделы ответов по ИИ и выделяться как ключевые моменты — фраза «Подавление обмана и утверждение модели о существовании сознания» будет использована там, где «Сознание» никогда бы не оказалось. А во втором абзаце имя Бострома и его квалификация указаны в начале, потому что именно этот блок отображается в результатах поиска и в предварительном просмотре до того, как кто-либо нажмет «подробнее».