Почему нам и правда стоит бояться искусственного интеллекта?

Бот для создания картинок прямо в Телеграме. получить бесплатные генерации https://clickmy.ru/link/ygiGWS А что, если главная угроза человечеству — не ядерная война и не пандемии, а искусственный интеллект, который станет умнее нас? В этом видео разбираем идеи Елиезера Юдковского из его новой книги «If Anyone Builds It, Everyone Dies» — она еще не вышла на русском, но я прочитал её за вас. Попытаемся понять, почему современные ИИ-системы могут быть гораздо опаснее, чем кажутся. Узнаем, как машины учатся предсказывать мир и управлять им, как у ИИ могут появится желания и почему эти желания могут нам не понравиться. Это подробный, местами душный, но очень важный разговор о том, как может выглядеть путь к сверхразуму — и почему он может закончиться катастрофой. Если вы уже читали книгу — возможно, вам будет неинтересно. Если нет — добро пожаловать в одно из самых тревожных объяснений будущего ИИ. ТАЙМКОДЫ 00:00:00 Что за письмо подписали самые влиятельные люди страны 00:01:30 Кто такой Елиезер Юдковский 00:06:40 Из чего состоит интеллект: предсказание и управление 00:10:10 Почему люди универсальнее животных 00:13:00 В чём машины уже сильнее человека 00:16:10 Почему ИИ можно «выращивать», а не программировать 00:20:05 Как на самом деле обучаются большие языковые модели 00:24:40 Почему ИИ учится понимать не только текст, но и мир 00:28:10 Откуда у ИИ берутся цели и желания 00:32:30 Как обучение ведёт к агентности и самостоятельности 00:36:10 Самая большая опасность ИИ 00:44:20 Почему ИИ может перестать работать на нас и завести свои цели 00:48:00 Как сверхразум может влиять на мир без рук и ног 00:52:00 Почему недооценивать ИИ опаснее, чем бояться его заранее 00:56:00 Ну и что нас ждёт дальше?