Отравление наборов данных в промышленных масштабах

Доклад на конференции Google TechTalk, 29 июля 2020 г., Том Голдштейн, Университет Мэриленда АННОТАЦИЯ: Отравление наборов данных — это уязвимость безопасности, при которой злоумышленник изменяет обучающие данные для системы машинного обучения таким образом, чтобы контролировать поведение во время тестирования. В этом докладе я расскажу о нашей недавней работе над методами отравления данных с «чистой разметкой», при которых отравленные изображения выглядят нормально для человека и имеют правильную разметку. Я представлю несколько способов создания таких атак отравления и покажу, что они могут быть эффективны против промышленных систем типа «черный ящик», включая Google AutoML.