Отравление данных — тихий саботаж искусственного интеллекта.

Искусственный интеллект становится опасным не тогда, когда выходит из-под контроля. Он становится опасным, когда его неправильно обучают. Мы тратим огромное количество времени на обсуждение иллюзий в области ИИ, регулирования и автономных агентов. Но одна из самых мощных угроз для искусственного интеллекта происходит не во время выполнения, а во время обучения. Тихо. Постепенно. Преднамеренно. Отравление данных — это тихий саботаж систем ИИ. Когда вредоносная или сфальсифицированная информация внедряется в наборы данных, используемые для обучения базовых моделей, это искажение не выглядит как утечка. Оно выглядит как интеллект — до тех пор, пока не проявятся последствия. В мире, где модели обучаются на огромных открытых и общедоступных наборах данных, целостность входящих данных определяет целостность исходящих. Если ИИ становится инфраструктурой, то целостность данных становится национальной безопасностью. Вот почему это должно беспокоить каждую организацию, внедряющую ИИ.