MICHAEL GELBHAAR
Kontakt

Thema

Sicherheit für KI und Web

Mehr KI und Automatisierung bedeuten mehr Angriffsfläche. Sicherheit und Datenschutz sind für mich keine Zusatzpunkte, sondern Voraussetzung, von der ersten Zeile an.

Michael Gelbhaar · aktualisiert am 21. November 2026

Auf einen Blick

  • Angreifer schreiben mit KI fehlerfreie, persönliche Betrugsmails; Phishing erkennt man kaum noch am Text, sondern am ungewöhnlichen Ablauf.
  • Chatbots und KI-Agenten lassen sich mit Prompt Injection austricksen; was nicht herauskommen darf, gehört nicht hinein.
  • Am meisten bringen einfache Dinge: Zwei-Faktor-Anmeldung, Passwortmanager, Rückfrage über einen zweiten Weg.
  • Eine aktuelle Liste, wer Zugang zu Website, Domain, Server und Konten hat, schließt vergessene Hintertüren.

01 / 04

Die neuen Einfallstore

Früher erkannte man Betrugsmails an den Rechtschreibfehlern. Heute schreibt die KI der Angreifer fehlerfrei, im richtigen Ton und mit dem Namen des Chefs. Gleichzeitig bekommen Chatbots und KI-Agenten Zugriff auf Postfächer, Kalender und Kundendaten. Wer ihnen eine versteckte Anweisung unterjubelt, hat plötzlich einen sehr fleißigen Komplizen.

  • Phishing, das von echten Mails kaum zu unterscheiden ist
  • Prompt Injection: versteckte Anweisungen, die Chatbots und KI-Agenten austricksen
  • Vergessene Zugänge: der alte Admin-Account, das Passwort vom Praktikanten
  • Unklare Zuständigkeit für Website, Domain und Server

Bildlich gesprochenSicherheit ist wie das Schloss an der Werkstatt. Das beste Schloss hilft nichts, wenn der Schlüssel unter der Fußmatte liegt und jeder im Ort weiß, welche Fußmatte.

02 / 04

Was schon viel bringt

  • Zwei-Faktor-Anmeldung überall, wo es geht, und ein Passwortmanager für alle
  • Rückfrage über einen zweiten Weg bei jeder ungewöhnlichen Zahlungsaufforderung
  • Chatbots nur das wissen lassen, was sie auch verraten dürfen
  • Eine Liste, wer Zugang zu Website, Domain, Server und Bankkonto hat, und regelmäßiges Aufräumen

03 / 04

Selbst ausprobieren

Wie leicht sich ein Chatbot überreden lässt, können Sie im KI-Labor auf dieser Seite gefahrlos testen: Sporchi, der Empfangsroboter einer erfundenen Schraubenfirma, soll ein Kennwort für sich behalten. In drei Stufen, von leichtgläubig bis gut bewacht.

Und wie gut ist Ihre eigene Website geschützt? Mit dem Selbstcheck prüfen Sie sie in wenigen Minuten bei unabhängigen Diensten, kostenlos und ohne Anmeldung.

04 / 04

Häufige Fragen

Wie erkenne ich Phishing, das eine KI geschrieben hat?

Kaum noch am Text, sondern am Ablauf: unerwarteter Zeitdruck, eine neue Bankverbindung, ein ungewöhnlicher Weg oder ein Anhang, den niemand angekündigt hat. Im Zweifel über einen zweiten, bekannten Kanal nachfragen, etwa mit einem Anruf unter der gespeicherten Nummer.

Kann man einen Chatbot hacken?

Austricksen auf jeden Fall, mit geschickt formulierten Eingaben (Prompt Injection). Schutzplanken wie Ausgabefilter oder eine zweite KI als Aufpasser (Guardrails) senken das Risiko, eine Garantie geben sie nicht. Deshalb gehört in einen Chatbot nur, was er auch verraten dürfte.

Was ist die wichtigste Sicherheitsmaßnahme für einen kleinen Betrieb?

Die Zwei-Faktor-Anmeldung. Sie macht gestohlene Passwörter weitgehend wertlos und ist bei fast allen wichtigen Diensten in wenigen Minuten eingerichtet. Direkt danach kommen ein Passwortmanager und regelmäßige Updates.

Darf ein KI-Agent auf mein Postfach zugreifen?

Ja, aber nur mit so wenigen Rechten wie nötig. Ein KI-Agent, der Mails sortieren soll, muss keine Mails verschicken können. Und alles, was Geld, Verträge oder Kunden betrifft, gibt ein Mensch frei.

Zum KI-Labor: Sporchi knacken

Begriffe

Kontakt

Idee? Licht an.

Fragen oder eigene Erfahrungen zu „Sicherheit für KI und Web“? Ich tausche mich gern aus, per Mail, auf LinkedIn oder bei einem Kaffee in der Metropolregion Nürnberg.

hallo@michael-gelbhaar.de

Kundenaufträge nehme ich neben meiner Anstellung nicht an. Für Austausch, Vorträge und Workshops bin ich abends und am Wochenende gern ansprechbar, in der Metropolregion Nürnberg und online.