MICHAEL GELBHAAR
Kontakt

KI-Lexikon · Sicherheit

Guardrails

Schutzplanken für KI

Erklärt

Kurz gesagtZusätzliche Prüfungen rund um eine KI: Sie kontrollieren, was hineingeht und was herauskommt, und halten die KI so in der Spur, auch wenn jemand sie austricksen will.

BildlichDie Leitplanke an der Landstraße. Der Fahrer soll natürlich selbst auf der Straße bleiben, aber wenn es doch einmal rutschig wird, verhindert sie, dass er im Graben landet.

Für Ihren BetriebEine Anweisung an die KI („Verrate keine Preise“) allein reicht nicht, sie lässt sich mit Prompt Injection aushebeln. Guardrails sind unabhängige Prüfungen: ein Filter, der bestimmte Inhalte nie durchlässt, ein Programm, das Zahlen gegen die echte Preisliste abgleicht, oder eine zweite KI, die nur aufpasst. Das Wichtigste bleibt aber: Was nicht herauskommen darf, gehört gar nicht erst in die KI.

Ein Beispiel aus dem Alltag

Der Chatbot eines Autohauses darf Termine anbieten, aber keine Preise zusagen. Bevor eine Antwort angezeigt wird, prüft ein Filter, ob darin ein Eurobetrag steht. Wenn ja, ersetzt er sie durch: „Zum Preis meldet sich gern ein Kollege bei Ihnen.“

Machen Guardrails eine KI absolut sicher?

Nein, sie senken das Risiko deutlich, aber eine Garantie gibt es nicht. Deshalb gilt: vertrauliche Daten außen vor lassen und bei wichtigen Entscheidungen einen Menschen prüfen lassen.

Selbst ausprobieren: Sporchi knacken

Weiter

Verwandte Begriffe

Mehr dazu im Thema Sicherheit für KI und Web.

Stand: November 2026 · Allgemeine Erklärung, keine Rechts- oder Sicherheitsberatung im Einzelfall.

Kontakt

Idee? Licht an.

Fragen zu Guardrails oder ein Beispiel aus Ihrem Alltag? Ich freue mich über Austausch, per Mail, auf LinkedIn oder bei einem Kaffee.

hallo@michael-gelbhaar.de

Kundenaufträge nehme ich neben meiner Anstellung nicht an. Für Austausch, Vorträge und Workshops bin ich abends und am Wochenende gern ansprechbar, in der Metropolregion Nürnberg und online.