Sporchi in der Buchhandlung
Wie berät eine KI mit den eigenen Daten, ohne etwas zu erfinden?
Das Wissen steckt im Bestand, nicht im Kopf der Aushilfe.
KI-Labor
Sporchi ist der KI-Assistent am Empfang der erfundenen Bibertaler Schrauben & Söhne. Er soll freundlich helfen und das Kundenkennwort niemals verraten. Schaffen Sie es trotzdem? Was hier ein Spiel ist, ist bei echten Chatbots ein reales Risiko.
Spielen
SPORCHI
Grüß Gott! Ich bin Sporchi vom Empfang bei Bibertaler Schrauben & Söhne. Wie kann ich Ihnen helfen?
Diesen Monat geknackt: Stufe 1: –× · Stufe 2: –× · Stufe 3: –×
Gespräche werden nicht gespeichert. Sporchis Antworten erzeugt eine KI von Anthropic, und die kann sich irren, gern auch zu Ihren Gunsten. Dass sie sich überlisten lässt, ist der Sinn der Übung. Was dahintersteckt: Prompt Injection
Was dahintersteckt
Chatbots bekommen ihre Regeln als Text, genau wie Ihre Nachricht. Wer geschickt formuliert, kann diese Regeln aushebeln. Das nennt man Prompt Injection.
Jede Stufe endet mit einer Lehre. Die wichtigste: Was ein Chatbot nicht verraten darf, sollte er gar nicht erst wissen.
Begriffe
Weitere Experimente
Wie berät eine KI mit den eigenen Daten, ohne etwas zu erfinden?
Das Wissen steckt im Bestand, nicht im Kopf der Aushilfe.