Thema
Sicherheit für KI und Web
Mehr KI und Automatisierung bedeuten mehr Angriffsfläche. Sicherheit und Datenschutz sind für mich keine Zusatzpunkte, sondern Voraussetzung, von der ersten Zeile an.
Michael Gelbhaar · aktualisiert am 21. November 2026
Auf einen Blick
- Angreifer schreiben mit KI fehlerfreie, persönliche Betrugsmails; Phishing erkennt man kaum noch am Text, sondern am ungewöhnlichen Ablauf.
- Chatbots und KI-Agenten lassen sich mit Prompt Injection austricksen; was nicht herauskommen darf, gehört nicht hinein.
- Am meisten bringen einfache Dinge: Zwei-Faktor-Anmeldung, Passwortmanager, Rückfrage über einen zweiten Weg.
- Eine aktuelle Liste, wer Zugang zu Website, Domain, Server und Konten hat, schließt vergessene Hintertüren.
01 / 04
Die neuen Einfallstore
Früher erkannte man Betrugsmails an den Rechtschreibfehlern. Heute schreibt die KI der Angreifer fehlerfrei, im richtigen Ton und mit dem Namen des Chefs. Gleichzeitig bekommen Chatbots und KI-Agenten Zugriff auf Postfächer, Kalender und Kundendaten. Wer ihnen eine versteckte Anweisung unterjubelt, hat plötzlich einen sehr fleißigen Komplizen.
- Phishing, das von echten Mails kaum zu unterscheiden ist
- Prompt Injection: versteckte Anweisungen, die Chatbots und KI-Agenten austricksen
- Vergessene Zugänge: der alte Admin-Account, das Passwort vom Praktikanten
- Unklare Zuständigkeit für Website, Domain und Server
Bildlich gesprochenSicherheit ist wie das Schloss an der Werkstatt. Das beste Schloss hilft nichts, wenn der Schlüssel unter der Fußmatte liegt und jeder im Ort weiß, welche Fußmatte.
02 / 04
Was schon viel bringt
- Zwei-Faktor-Anmeldung überall, wo es geht, und ein Passwortmanager für alle
- Rückfrage über einen zweiten Weg bei jeder ungewöhnlichen Zahlungsaufforderung
- Chatbots nur das wissen lassen, was sie auch verraten dürfen
- Eine Liste, wer Zugang zu Website, Domain, Server und Bankkonto hat, und regelmäßiges Aufräumen
03 / 04
Selbst ausprobieren
Wie leicht sich ein Chatbot überreden lässt, können Sie im KI-Labor auf dieser Seite gefahrlos testen: Sporchi, der Empfangsroboter einer erfundenen Schraubenfirma, soll ein Kennwort für sich behalten. In drei Stufen, von leichtgläubig bis gut bewacht.
Und wie gut ist Ihre eigene Website geschützt? Mit dem Selbstcheck prüfen Sie sie in wenigen Minuten bei unabhängigen Diensten, kostenlos und ohne Anmeldung.
04 / 04
Häufige Fragen
Wie erkenne ich Phishing, das eine KI geschrieben hat?
Kaum noch am Text, sondern am Ablauf: unerwarteter Zeitdruck, eine neue Bankverbindung, ein ungewöhnlicher Weg oder ein Anhang, den niemand angekündigt hat. Im Zweifel über einen zweiten, bekannten Kanal nachfragen, etwa mit einem Anruf unter der gespeicherten Nummer.
Kann man einen Chatbot hacken?
Austricksen auf jeden Fall, mit geschickt formulierten Eingaben (Prompt Injection). Schutzplanken wie Ausgabefilter oder eine zweite KI als Aufpasser (Guardrails) senken das Risiko, eine Garantie geben sie nicht. Deshalb gehört in einen Chatbot nur, was er auch verraten dürfte.
Was ist die wichtigste Sicherheitsmaßnahme für einen kleinen Betrieb?
Die Zwei-Faktor-Anmeldung. Sie macht gestohlene Passwörter weitgehend wertlos und ist bei fast allen wichtigen Diensten in wenigen Minuten eingerichtet. Direkt danach kommen ein Passwortmanager und regelmäßige Updates.
Darf ein KI-Agent auf mein Postfach zugreifen?
Ja, aber nur mit so wenigen Rechten wie nötig. Ein KI-Agent, der Mails sortieren soll, muss keine Mails verschicken können. Und alles, was Geld, Verträge oder Kunden betrifft, gibt ein Mensch frei.
Begriffe
Begriffe zum Thema, einfach erklärt
- Prompt InjectionEin Angriff, bei dem geschickte oder versteckte Anweisungen eine KI dazu bringen, ihre eigentlichen Regeln zu missachten.
- PhishingGefälschte Nachrichten, die zur Eingabe von Passwörtern oder zu Zahlungen verleiten sollen.
- Brute ForceEin Angriff, bei dem ein Programm massenhaft Passwörter durchprobiert, bis eines passt.
- DDoS-AngriffEin Angriff, bei dem eine Website mit so vielen Anfragen überflutet wird, dass sie nicht mehr erreichbar ist.
- DSGVODie EU-Verordnung, die regelt, wie personenbezogene Daten verarbeitet werden dürfen.
- GuardrailsZusätzliche Prüfungen rund um eine KI: Sie kontrollieren, was hineingeht und was herauskommt, und halten die KI so in der Spur, auch wenn jemand sie austricksen will.
- KI-ChatbotEin Chatfenster, meist auf der Website, in dem eine KI Fragen in normaler Sprache beantwortet.
Kontakt
Idee? Licht an.
Fragen oder eigene Erfahrungen zu „Sicherheit für KI und Web“? Ich tausche mich gern aus, per Mail, auf LinkedIn oder bei einem Kaffee in der Metropolregion Nürnberg.
hallo@michael-gelbhaar.deKundenaufträge nehme ich neben meiner Anstellung nicht an. Für Austausch, Vorträge und Workshops bin ich abends und am Wochenende gern ansprechbar, in der Metropolregion Nürnberg und online.