Что такое промпт-инъекция? (И почему это главная угроза безопасности ИИ)

Вы когда-нибудь задумывались, почему инструменты ИИ на рабочем месте кажутся такими ограниченными — функции отключены, доступ недоступен, чат-бот не трогает половину ваших данных? Вот почему. Вас предупреждали о том, что вы вводите в ИИ; больший риск заключается в том, что ИИ читает — из электронного письма, веб-страницы, документа — без вашего ведома. Менее чем за девять минут Саймон Аллардис подробно рассказывает о внедрении подсказок (угроза, которую OWASP ставит на первое место), чем это отличается от джейлбрейка, почему это нельзя просто исправить и что вы можете сделать, чтобы ограничить свою уязвимость. Хотите глубже изучить ответственный ИИ и безопасность? Ознакомьтесь с курсом Udacity «Ответственный ИИ»: https://www.udacity.com/course/respon... #promptinjection #jailbreak #responsibleai #artificialintelligence #cybersecurity #techexplained