Mit zunehmender Adaption von KI in der Praxis kommt der Sicherheit eine besondere Bedeutung zu. Die Komplexität von solchen Systemen, die Konzentration von relevanten Daten und die noch geringen praktischen Erfahrungen sorgen für hohe Anreize für potenzielle Angreifer. Ein sicheres Design bedarf deshalb eines systematischen Vorgehens, um alle Facetten des Themas abzudecken.

In diesem Vortrag stellen wir unsere Adaption der etablierten Methode Threat Modelling für KI-Anwendungen vor: Ausgehend vom bekannten "Four Question Framework" wird der Fokus auf die KI-Komponenten, ihre Besonderheiten und deren Bedrohungssituation gelegt und auch die Umsetzung im Entwicklungsprojekt behandelt.

Die Teilnehmenden lernen die Methode Threat Modelling kennen und wie Sie diese in der Praxis einsetzen: Von der Identifikation der schützenswerten Assets über die Aufstellung der Bedrohungsszenarien bis hin zur Ableitung von effizienten Gegenmaßnahmen stellen wir das Vorgehen anhand praktischer Use Cases dar.