Secure-by-Design em Agentes LLM

Este vídeo é um registro de um estudo que fiz para o meu projeto de pesquisa na faculdade aqui da França. O objetivo foi entender na prática as vulnerabilidades de agentes autônomos de IA (LLMs) e como eles podem ser manipulados através de injeções indiretas de prompt. No vídeo, tento explicar de forma objetiva como é a anatomia de execução desses agentes, analiso duas propostas recentes de defesa focadas em isolamento de dados (CaMeL e FIDES) e discuto a teoria por trás da "Lavagem de Proveniência", que é uma estratégia de Red Team usada para tentar burlar essas proteções. Todo o conteúdo foi construído com base nestes dois artigos cujos links deixo os abaixo: DEBENEDETTI, E. et al. Defeating Prompt Injections by Design (Google DeepMind, 2025): https://arxiv.org/abs/2503.18813 COSTA, M. et al. Securing AI Agents with Information-Flow Control (Microsoft, 2025): https://arxiv.org/abs/2505.23643