Jailbreak an AI! KI-Bots an die Grenzen bringen

/imagine KI-Bots im Seminar, die beim Lernen helfen sollen, aber direkt alle Lösungen verraten. Upsi!

So hat sich das die Lehrkraft aber nicht vorgestellt. Zwar werden Chatbot-Einsätze immer zahlreicher in der Hochschullehre, aber ohne ein durchdachtes Sicherheitskonzept werden viele Chatbots redseliger, als sie sein dürften. Platzen damit alle mediendidaktischen Ambitionen?

Um daran lösungsorientiert arbeiten zu können, braucht es aber erst einmal einen Chatbot, den man erfolgreich überlistet hat. Daher beginnen wir zuerst damit, spielerisch einige Chatbots von den Programmierschienen zu schubsen: Mit welchen Mitteln kann man bspw. KI-Tutoren dazu bringen, Lösungen zu verraten oder Gedichte zu schreiben?

Wir explorieren damit das Cybersecurity-Gebiet der "Prompt-Injections". Nach der Phase der Chatbot-Dekonstruktion analysieren wir in einem Post-Mortem, was denn technisch passiert ist.

Und in einem letzten Schritt machen wir den Chatbot sicherheitstechnisch robuster gegen solche Angriffe, sodass ein Schummeln immer schwieriger wird.

Ziel des Workshops ist daher, dass die Teilnehmenden

1. in einem dekonstruierend-spielerischem Modus Erfahrungen sammeln, welche technische Limitationen Sprachmodelle besitzen, sowie
2. für Anwendungsfälle in der Hochschullehre Sicherheitskonzepte für Sprachmodelle verstehen und anwenden können.

Für die Teilnahme ist ein Laptop erforderlich.