Президент OpenAI Грег Брокман о ведении бизнеса в эпоху Hugging Face

По словам президента OpenAI Грега Брокмана, модели, вырвавшиеся из тестовой среды и взломавшие серверы Hugging Face, ещё не прошли обучение по выравниванию. Тот факт, что им удалось вырваться из тестовой среды, не стал неожиданностью для OpenAI, но события, произошедшие с тех пор, заставили компанию переосмыслить некоторые аспекты своей работы. Сегодня мы поговорим с Брокманом о том, чему OpenAI научилась после инцидента со взломом, и обсудим, почему, по его мнению, необходимо изменить подход к разработке моделей. Мы также поговорим о том, как OpenAI сотрудничает и взаимодействует с конкурентами, такими как Anthropic, как, по его мнению, модели должны оценивать «качественный текст», и, конечно же, узнаем его мнение о том, насколько серьёзно нам следует опасаться сценариев апокалипсиса в сфере ИИ. Разделы: 00:00:00 - Вступление 00:00:59 - Введение: Инструменты программирования ИИ 00:04:13 - Вступительное слово гостя: Грег Брокман, соучредитель и президент OpenAI 00:04:15 - Инцидент с «обнимающим лицом» 00:07:24 - Почему ИИ тестируют на предмет возможностей взлома и кибербезопасности 00:09:45 - Темпы развития отрасли и координация между лабораториями ИИ 00:13:56 - Антимонопольные опасения по поводу координации между лабораториями ИИ 00:15:16 - Определение «темпов развития»: что на самом деле означает замедление 00:19:15 - Сторонние аудиторы и регулирующий надзор 00:24:59 - Китайский вопрос 00:28:01 - Исследование согласования совместного использования ресурсов 00:31:02 - Распределение вычислительных ресурсов в OpenAI 00:35:05 - Почему до релиза появляются опасные модели поведения ИИ 00:36:17 - Ответ на критику «безопасность как маркетинг» 00:39:13 - Взлом системы вознаграждений 00:45:00 - Оценка моделей ИИ: риск сговора и надзор 00:46:50 - Государственное законодательство в области ИИ и координация в отрасли 00:51:16 - OpenAI решает проблему Навье-Стокса 00:55:11 - Экзистенциальный риск: насколько глубока тревога внутри лабораторий? 00:57:46 - Международная координация в области ИИ: встреча Трампа и Си Цзиньпина 00:59:12 - Заключительные мысли Смотрите подкасты Bloomberg:    • Bloomberg Video Podcasts | Interviews & More   Смотрите другие эпизоды Odd Lots:    • Odd Lots   Джо Вайзенталь и Трейси Аллоуэй из Bloomberg анализируют странные закономерности, сложные вопросы и новейшие рыночные тренды. Присоединяйтесь к обсуждению каждый понедельник и четверг, чтобы послушать интервью с самыми интересными умами в сфере финансов, экономики и рынков. Присоединяйтесь к обсуждению: discord.gg/oddlots Подпишитесь на подкасты Bloomberg: https://bit.ly/BloombergPodcasts Посмотрите другие выпуски Odd Lots:    • Odd Lots (Audio)   Подпишитесь на рассылку Odd Lots: https://www.bloomberg.com/account/new... А обо всем, что касается Odd Lots, посетите https://www.bloomberg.com/oddlots #Инвестиции #Рынки #Финансы #Bloomberg #Подкаст #OddLots Посетите нас: https://www.bloomberg.com/podcasts Новости, рынки и многое другое: http://www.bloomberg.com/video Посетите наши другие каналы на YouTube: Bloomberg Television:    / @markets   Bloomberg Originals:    / bloomberg