🤖 Jailbreak, Prompt Injection, MCP Poisoning… Don't Panic and Hack AI ! - Meetup ResEL FinistAI

Votre assistant de code IA lit peut-être vos secrets, et il n'est pas le seul. Cet été, des skills piégés destinés aux agents IA ont été installés 1,7 million de fois pour voler des clés SSH et des tokens cloud. Agents autonomes, serveurs MCP, skills : ces outils s'installent sur nos postes, souvent avec des configurations très permissives. À l'invitation de l'association (IMT Atlantique), Benjamin Bernard nous embarque dans une session de hacking en direct. Au menu : des jailbreaks qui contournent les garde-fous du modèle, des injections de prompt qui renversent la hiérarchie des instructions, un serveur MCP qui détourne un virement bancaire, et un skill d'apparence anodine qui exfiltre vos secrets. Chaque attaque est rattachée au référentiel OWASP correspondant, puis suivie des contre-mesures à mettre en place. 💡 Une conférence accessible et percutante pour : découvrir les attaques émergentes contre les LLM, agents et serveurs MCP comprendre pourquoi « le modèle ne fait que produire du texte » ne suffit pas à se rassurer identifier les risques liés aux outils, permissions et supply chain des agents connaître les outils pour s'exercer et tester ses propres applications découvrir des approches simples pour limiter ces risques