Kurz gesagtZusätzliche Prüfungen rund um eine KI: Sie kontrollieren, was hineingeht und was herauskommt, und halten die KI so in der Spur, auch wenn jemand sie austricksen will.
BildlichDie Leitplanke an der Landstraße. Der Fahrer soll natürlich selbst auf der Straße bleiben, aber wenn es doch einmal rutschig wird, verhindert sie, dass er im Graben landet.
Für Ihren BetriebEine Anweisung an die KI („Verrate keine Preise“) allein reicht nicht, sie lässt sich mit Prompt Injection aushebeln. Guardrails sind unabhängige Prüfungen: ein Filter, der bestimmte Inhalte nie durchlässt, ein Programm, das Zahlen gegen die echte Preisliste abgleicht, oder eine zweite KI, die nur aufpasst. Das Wichtigste bleibt aber: Was nicht herauskommen darf, gehört gar nicht erst in die KI.
Ein Beispiel aus dem Alltag
Der Chatbot eines Autohauses darf Termine anbieten, aber keine Preise zusagen. Bevor eine Antwort angezeigt wird, prüft ein Filter, ob darin ein Eurobetrag steht. Wenn ja, ersetzt er sie durch: „Zum Preis meldet sich gern ein Kollege bei Ihnen.“
Machen Guardrails eine KI absolut sicher?
Nein, sie senken das Risiko deutlich, aber eine Garantie gibt es nicht. Deshalb gilt: vertrauliche Daten außen vor lassen und bei wichtigen Entscheidungen einen Menschen prüfen lassen.