Роман Ямпольский: как суперинтеллектуальный ИИ может нас всех уничтожить

Это тревожный звонок для тех, кто считает, что опасность ИИ преувеличена? Сегодня в программе «Цифровые преобразования» к нам присоединился Роман Ямпольский, ведущий писатель и мыслитель в области безопасности ИИ, доцент Университета Луисвилла. Недавно он принимал участие в подкастах, таких как PowerfulJRE от @joerogan. Роман — ведущий эксперт в области безопасности и защиты искусственного интеллекта. Он является автором нескольких влиятельных книг, в том числе «ИИ: необъяснимый, непредсказуемый, неконтролируемый». Его исследования сосредоточены на критических рисках и проблемах, создаваемых передовыми системами ИИ. Он является штатным профессором кафедры компьютерных наук и инженерии Университета Луисвилла, а также основателем и директором Лаборатории кибербезопасности. Роман беседует с Джеффом об одной из самых актуальных проблем нашего времени: экзистенциальных рисках, создаваемых ИИ и сверхинтеллектом. Он делится своим прогнозом о том, что ИИ может привести к вымиранию человечества в течение следующего столетия. Они углубляются в сложности этой проблемы, исследуя потенциальные опасности, которые могут возникнуть как из-за злонамеренного использования ИИ, так и из-за его автономных действий. Роман подчеркивает разницу между ИИ как инструментом и как разумным агентом, объясняя, как сверхинтеллектуальный ИИ может перехитрить попытки человека управлять им, что приведет к катастрофическим последствиям. Дискуссия бросает вызов оптимизму многих в мире технологий и призывает к более осторожному и вдумчивому подходу к разработке ИИ. В этом эпизоде: 00:00 Вступление 00:45 Прогноз доктора Ямпольского: риск вымирания ИИ 02:15 Анализ шансов на выживание 04:00 Злонамеренное использование ИИ и сверхинтеллекта 06:00 Случайное и преднамеренное уничтожение ИИ 08:10 Опасности неконтролируемого ИИ 10:00 Роль оптимизма в развитии ИИ 12:00 Необходимость личной выгоды для замедления развития ИИ 15:00 Узкий ИИ против сверхинтеллекта 18:30 Экономическое вытеснение и потеря рабочих мест из-за ИИ 22:00 Глобальная конкуренция и гонка вооружений в области ИИ 25:00 Роль ИИ в войнах и страданиях 30:00 Можем ли мы контролировать ИИ посредством этического управления? 35:00 Сингулярность и вымирание человечества 40:00 Сверхинтеллект: насколько мы близки? 45:00 Сознание в ИИ 50:00 Сложность программирования страданий в ИИ 55:00 Подход доктора Ямпольского к безопасности ИИ 58:00 Размышления о рисках ИИ Свяжитесь с Романом: Веб-сайт: https://www.romanyampolskiy.com/ LinkedIn:   / romanyam   X: https://x.com/romanyam Посетите наш веб-сайт: https://www.infotech.com/ Подпишитесь на нас на YouTube:    / @infotechrg   Посмотрите другие эпизоды Digital Disruption:    • Digital Disruption with Geoff Nielson