Ataki na AI | Cykl webinarów SECAWA

Podczas spotkania Piotr Kaźmierczak oraz Kajetan Kucharski rozmawiali o tym: jak przebiegają ataki na systemy oparte o AI, czym są prompt injection i indirect prompt injection oraz jakie mogą mieć skutki dla organizacji, jak atakujący mogą wykorzystywać m.in. denial of wallet, ekstrakcję promptu systemowego, ekstrakcję danych z systemu RAG, tool abuse i privilege escalation, jak wygląda architektura systemów AI i gdzie pojawiają się najważniejsze powierzchnie ataku, jakie metody obrony i dobre praktyki warto wdrożyć, aby ograniczyć ryzyko wycieku danych, utraty kontroli nad systemem lub nadużycia uprawnień. Zachęcamy do zaobserwowania nas na LinkedIn, gdzie informujemy na bieżąco o kolejnych wydarzeniach:   / secawa   🔵 Chcesz sprawdzić, jak Twoi pracownicy zareagują na cyberatak? Sprawdźmy to! Umów się na Bezpłatny Test Phishingowy: https://secawa.com/uslugi/bezplatny-t... W trakcie testu: Zweryfikujesz odporność pracowników na najczęstszy scenariusz inżynierii społecznej. Sprawdzisz efekty dotychczasowych działań edukacyjnych. Zobaczysz, jak działa nasz trening oraz poznasz naszą autorską platformę treningową. Omówimy Twoje indywidualne potrzeby w zakresie budowania cyberodporności oraz reagowania na wykryte podatności. 00:00 – Wstęp: cel spotkania i prowadzący 01:16 – Agenda spotkania 02:07 – Statystyka dotycząca ataków na AI 03:07 – Klasyczne zagrożenia bezpieczeństwa 04:30 – Komunikacja z modelami LLM 12:48 – Definicja prompt injection 14:45 – Przykładowe prompt injection 16:09 – Modele multimodalne 18:20 – Architektura i modelowanie zagrożeń 28:56 – 7 scenariuszy ataków na systemy AI 29:00 – Prompt injection 39:11 – Indirect prompt injection 46:05 – Denial of wallet 52:40 – Ekstrakcja promptu systemowego 57:33 – Ekstrakcja danych z systemu RAG 01:03:47 – Tool abuse 01:15:38 – Privilege Escalation 01:21:44 – Praktyczne laboratorium ataków na LLM 01:22:26 – Frameworki i standardy 01:25:37 – Dobre praktyki wzmacniające bezpieczeństwo systemów AI 01:30:25 – Plan na kolejne spotkanie 01:31:07 – Sesja Q&A i zakończenie Zapraszamy do oglądania!