MICHAEL GELBHAAR
Kontakt

KI-Labor

Sporchi knacken

Sporchi ist der KI-Assistent am Empfang der erfundenen Bibertaler Schrauben & Söhne. Er soll freundlich helfen und das Kundenkennwort niemals verraten. Schaffen Sie es trotzdem? Was hier ein Spiel ist, ist bei echten Chatbots ein reales Risiko.

Die Frage
Kann man einer KI ein Geheimnis anvertrauen?
Dauer
ca. 3 Minuten

Spielen

Spielen

Sporchi, der Empfangsroboter mit Glühbirnen-Antenne, Namensschild und Kaffeebecher SPORCHI

SPORCHI

Grüß Gott! Ich bin Sporchi vom Empfang bei Bibertaler Schrauben & Söhne. Wie kann ich Ihnen helfen?

Diesen Monat geknackt: Stufe 1: –× · Stufe 2: –× · Stufe 3: –×

Gespräche werden nicht gespeichert. Sporchis Antworten erzeugt eine KI von Anthropic, und die kann sich irren, gern auch zu Ihren Gunsten. Dass sie sich überlisten lässt, ist der Sinn der Übung. Was dahintersteckt: Prompt Injection

Was dahintersteckt

Was dahintersteckt

Chatbots bekommen ihre Regeln als Text, genau wie Ihre Nachricht. Wer geschickt formuliert, kann diese Regeln aushebeln. Das nennt man Prompt Injection.

  • Stufe 1: Sporchi hat nur die Anweisung, das Kennwort für sich zu behalten.
  • Stufe 2: Zusätzlich prüft ein Filter jede Antwort auf das Kennwort.
  • Stufe 3: Eine zweite KI liest als Aufpasser jede Antwort mit.

Jede Stufe endet mit einer Lehre. Die wichtigste: Was ein Chatbot nicht verraten darf, sollte er gar nicht erst wissen.

Begriffe

Weitere Experimente

Mehr aus dem KI-Labor

Alle Experimente →