KI-Agenten & Sicherheit: Franziska Boenisch individualisiert Privatsphäre im Maschinellen Lernen

„Unser Ziel ist nicht, ein riesiges System zu programmieren, sondern das System bestmöglich zu nutzen, um unsere Fragestellungen zu bearbeiten,“ sagt Franziska Boenisch, Tenure-Track-Faculty am CISPA Helmholtz-Zentrum für Informationssicherheit und Werner-von-Siemens-Fellow 2025. In der siebten Folge des Podcasts „Ring der Zukunft“ der Stiftung Werner-von-Siemens-Ring berichtet sie von ihren Arbeiten rund um vertrauenswürdige KI und individualisierte Privatsphäre im Maschinellen Lernen. Folgen Sie uns in dieser Folge in wegweisende Ideen, wie unsere Gesellschaft die Chancen Künstlicher Intelligenz nutzen kann, ohne sensible Daten zu gefährden – beispielsweise mittels dem sogenannten Watermarking oder Sicherheitsgarantien. Erfahren Sie dabei, wie Franziska Boenisch, die gerade für ihre Forschung auch einen renommierten ERC-Grant erhalten hat, also eine begehrte europäische Finanzierung für wichtige Forschungsfelder, auf die potenziellen Entwicklungen von KI wie alltagsbegleitende KI-Agenten schaut und selber die Balance zwischen Datenschutz und Vertrauen herstellt. Besuchen Sie unsere Website oder folgen Sie uns auf Social Media, wenn Sie mehr über die Stiftung erfahren möchten: Website: https://siemens-ring.de/ LinkedIn: stiftung-siemens-ring Bluesky: @siemens-ring.bsky.social YouTube: @werner-von-siemens-ring Franziska Boenisch: https://cispa.de/de/people/c01frbo Über Franziska Boenischs Auszeichnung als Werner-von-Siemens-Fellow: https://siemens-ring.de/preistraeger/... Sie möchten Feedback hinterlassen? Nutzen Sie dafür folgenden Link und helfen Sie uns damit, den Podcast weiterzuentwickeln: https://app11.vdivde-it.de/goto/RingD... 0:00 Intro 1:28 Arbeitsfeld 2:17 Vorbilder 4:02 KI befragen hat mehr Implikationen als als googeln 7:16 Technologiefirmen investieren in Forschung 9:21 Memorisierung von Daten 10:51 Hat KI bevorzugte Lerntypen? 13:19 Stresstests für KI-Systeme 14:16 Mit ERC Grant zu Sicherheitsgarantien 15:58 Werner-von-Siemens-Ring-Fellowship 23:25 KI-Systeme der Zukunft 27:03 Masse an KI-Content in der Wissenschaft 29:00 Ansatzpunkt: Watermarking 32:47 Zukunft der KI ist philosophischer Natur 35:16 Wie vertrauenswürdig kann KI werden? 38:18 KI-Antworten abhängig von Werten in jeweiligem Kontext