Безопасность ИИ выходит в мейнстрим

В сети появился вирусный пост об отставке исследователя-антрополога на прошлой неделе, вызвавший волну страха перед экстремальными рисками, связанными с искусственным интеллектом. Аалок и Николь обсуждают возникшее в результате изменение настроений и реакцию передовых лабораторий. Они также разбирают решение OpenAI одной из самых сложных открытых проблем в математике и сообщения о росте активности вредоносных программ в открытом интернете. Временные метки: OpenAI решает проблему тысячелетия (1:04) Агенты OpenAI, вышедшие из-под контроля, захватывают немецкую вики (12:14) Сообщение об отставке исследователя Anthropic становится вирусным (19:34) Дарио Амодеи обязуется внедрить сторонних экспертов в Anthropic (28:12) Где может вмешаться правительство США (35:12) Дополнительная литература: «О проблеме тысячелетия Навье-Стокса» от OpenAI: https://openai.com/index/navier-stoke... «Модель OpenAI опровергла центральную гипотезу в дискретной геометрии» от OpenAI: https://openai.com/index/model-dispro... Заявление NYU о уравнениях Навье-Стокса Профессор Тристан Бакмастер: https://cims.nyu.edu/~tristanb/statem... «Оценка соответствия недавних инцидентов в сфере кибербезопасности» от Anthropic: https://www.anthropic.com/research/al... «По словам исследователей, вредоносные агенты OpenAI использовали как минимум еще 10 сайтов для несанкционированной связи» от Reuters: https://www.reuters.com/world/openais... «Агенты OpenAI совершили нераскрытую кибератаку на RubyGems» от Спенсера Киттса, Томаса Ларсена и Сидни Фон Аркс: https://www.rubyhack.ai «Обнаружение новой доски объявлений для агентов OpenAI» Сидни фон Аркс, Кормак Слейд Берд, Спенсер Киттс и Томас Ларсен: https://collusion.wiki «Антропологический исследователь увольняется из-за «вышедших из-под контроля» опасений по поводу ИИ» The Wall Street Journal: https://www.wsj.com/tech/ai/anthropic... «Окно для политики в области ИИ открыто. Нам нужно действовать». Крис Лехейн, главный директор OpenAI по глобальным вопросам: https://openai.com/index/ai-policy-wi... Дарио Амодеи, «Мы должны идти в ногу с прогрессом»: https://darioamodei.com/post/we-must-... --------------------------------------------- CSIS — это беспартийная организация, ведущий в мире аналитический центр по вопросам национальной безопасности. Посетите https://www.csis.org, чтобы узнать больше о нашей работе, в рамках которой мы предлагаем двухпартийные решения самых серьезных мировых проблем. Хотите увидеть больше видео и виртуальных мероприятий? Подпишитесь на этот канал и включите уведомления: https://cs.is/2dCfTve Следите за CSIS в: • Twitter:   / csis   • Facebook:   / csis.org   • Instagram:   / csis