Как Anthropic борется с дистилляцией моделей ИИ

Как передовые лаборатории ИИ могут защитить свои модели от несанкционированного извлечения данных? В этой презентации с голосовым сопровождением рассматривается, почему злоумышленники нацеливаются на расшифровки логического мышления и как многоуровневая защита направлена ​​на ограничение извлечения данных. Темы включают разницу между обычным использованием моделей и атаками с использованием извлечения данных, сохранение логического мышления, двухэтапные классификаторы, нарушение работы учетных записей, экономику атак и компромиссы для легитимных разработчиков. В заключение обсуждается необходимость координации действий между облачными платформами и поставщиками услуг вывода. Основано на предоставленной презентации «Укрепленная песочница: защита передового ИИ от незаконного извлечения данных» и сопровождающем её голосовом сопровождении. Утверждения и примеры представлены так, как обсуждалось в этих исходных материалах. Разделы 00:00 Невидимая кража ИИ 01:13 Что означает дистилляция модели 02:50 Почему рассуждения являются целью 05:04 Примеры угроз 09:12 Ценность чистых рассуждений 10:21 Цикл эскалации 12:14 Многоуровневая защита 12:25 Сохраненное мышление 14:21 Двухэтапные классификаторы 16:10 Блокировка учетных записей и экономика атак 18:21 Компромиссы в области безопасности 19:30 Координация в масштабах всей отрасли 20:23 Сообщения о снижении извлечения данных 21:13 Заключительный парадокс безопасности