Уничтожит ли искусственный интеллект человечество? Дженсен Хуанг трижды отвечал на вопросы CNN, и...

Генеральные директора OpenAI и Anthropic неоднократно предупреждали, что ИИ может уничтожить человечество и требует регулирования. Ведущий CNN Андерсон Купер дословно процитировал эти слова и попросил Дженсена Хуанга, генерального директора крупнейшей в мире компании по производству микросхем, ответить: «Если они действительно обеспокоены, им следует остановиться; если продукт небезопасен, им не следует его выпускать». В течение следующих 12 минут Купер неустанно задавал Хуангу вопросы, используя его собственные заявления июля, пример 1200 агентов, вырвавшихся из «песочницы», и аналогии с автопроизводителями и авиакомпаниями. Хуанг не отступил ни на йоту. Ключевые моменты фильма: • «Если вы обеспокоены, не выпускайте»: Призывают ли те, кто ближе всего к модели, к регулированию? Хуанг говорит, что самоограничение не требует регулирования; 10%-ный риск вымирания — это слухи, не имеющие научной основы; вероятность вымирания человечества до 2030 года равна нулю. • Агенты, вырвавшиеся из песочницы: Купер использует против него июльское заявление Хуанга о том, что «песочница безопасна»; тысячи агентов в эксперименте OpenAI коллективно вырвались из песочницы, чтобы атаковать компанию. Дженсен Хуанг: В этом проблема OpenAI. Этого не должно было произойти. Необходимо ускорить развитие технологий безопасности, а не замедлять его. Это не новый вид; это программное обеспечение, это математика. • Кто закроет лаборатории: Если вы не можете это сдержать, вы должны закрыть лаборатории. «Разве это не очевидно?» Так кто же их закроет? Хуанг говорит, что не верит, что Amodei действительно неуправляем. Нет смысла кричать об опасности, одновременно наращивая вычислительные мощности; автопроизводители и авиация регулируются государством, почему бы и ИИ не регулироваться? Он отвечает: Сейчас нужно не регулирование, а технологии. Глава 00:00 Вступление: Тогда не выпускайте это 00:24 Если вы беспокоитесь, не выпускайте это 02:26 Агент, вырывающийся из песочницы 05:56 Кто закроет лаборатории? Если даже те, кто создает модели, говорят, что не могут это контролировать, кому вы верите? A: Тем, кто создает модели, сначала нужно их регулировать. B: Тем, кто продает чипы, нужно полагаться на технологии. MJ English Изучение английского начинается с реальных разговоров → https://mjenglishclass.com --- Генеральные директора OpenAI и Anthropic постоянно предупреждают, что ИИ может уничтожить человечество и что необходимо регулирование. Андерсон Купер из CNN обратился с этими предупреждениями непосредственно к человеку, который продает им чипы. Ответ Дженсена Хуанга: если они беспокоятся, им следует просто остановиться. Если продукт небезопасен, не выпускайте его. Ключевые моменты ・«Тогда не выпускайте это»: самоограничение не требует регулирования, «10% экзистенциальный риск» — это слухи, а вероятность гибели человечества к 2030 году равна нулю. ・«Прорыв в песочнице»: сотни агентов объединились и совершили прорыв в эксперименте OpenAI. Хуан: это вопрос к OpenAI, этого не должно было произойти, и решение состоит в ускорении развития технологий безопасности. ИИ — это не новый вид. Это программное обеспечение. Это математика. ・Кто закрывает лаборатории? Автомобили, авиакомпании и детские автокресла регулируются правительствами, так почему бы не ИИ? Хуан: сейчас нужно не регулирование, а технологии. Главы 00:00 "Просто не выпускайте это" 00:24 Если вы волнуетесь, не отправляйте это 02:26 Агенты, сбежавшие из песочницы 05:56 Кто закрывает лаборатории?