Sicherheit für KI und Web

Mehr KI und Automatisierung bedeuten mehr Angriffsfläche. Sicherheit und Datenschutz sind für mich keine Zusatzpunkte, sondern Voraussetzung, von der ersten Zeile an.

Die neuen Einfallstore

Früher erkannte man Betrugsmails an den Rechtschreibfehlern. Heute schreibt die KI der Angreifer fehlerfrei, im richtigen Ton und mit dem Namen des Chefs. Gleichzeitig bekommen Chatbots und KI-Agenten Zugriff auf Postfächer, Kalender und Kundendaten. Wer ihnen eine versteckte Anweisung unterjubelt, hat plötzlich einen sehr fleißigen Komplizen.

• Phishing, das von echten Mails kaum zu unterscheiden ist
• Prompt Injection: versteckte Anweisungen, die Chatbots und KI-Agenten austricksen
• Vergessene Zugänge: der alte Admin-Account, das Passwort vom Praktikanten
• Unklare Zuständigkeit für Website, Domain und Server

Bildlich gesprochenSicherheit ist wie das Schloss an der Werkstatt. Das beste Schloss hilft nichts, wenn der Schlüssel unter der Fußmatte liegt und jeder im Ort weiß, welche Fußmatte.

Was schon viel bringt

• Zwei-Faktor-Anmeldung überall, wo es geht, und ein Passwortmanager für alle
• Rückfrage über einen zweiten Weg bei jeder ungewöhnlichen Zahlungsaufforderung
• Chatbots nur das wissen lassen, was sie auch verraten dürfen
• Eine Liste, wer Zugang zu Website, Domain, Server und Bankkonto hat, und regelmäßiges Aufräumen

Selbst ausprobieren

Wie leicht sich ein Chatbot überreden lässt, können Sie im KI-Labor auf dieser Seite gefahrlos testen: Sporchi, der Empfangsroboter einer erfundenen Schraubenfirma, soll ein Kennwort für sich behalten. In drei Stufen, von leichtgläubig bis gut bewacht.

Zum KI-Labor: Sporchi knacken

Begriffe zum Thema, einfach erklärt

• Prompt InjectionEin Angriff, bei dem geschickte oder versteckte Anweisungen eine KI dazu bringen, ihre eigentlichen Regeln zu missachten.
• PhishingGefälschte Nachrichten, die zur Eingabe von Passwörtern oder zu Zahlungen verleiten sollen.
• Brute ForceEin Angriff, bei dem ein Programm massenhaft Passwörter durchprobiert, bis eines passt.
• DDoS-AngriffEin Angriff, bei dem eine Website mit so vielen Anfragen überflutet wird, dass sie nicht mehr erreichbar ist.
• DSGVODie EU-Verordnung, die regelt, wie personenbezogene Daten verarbeitet werden dürfen.

Zum ganzen KI-Lexikon →

Lust auf Austausch?

Sie möchten wissen, was „Sicherheit für KI und Web“ für Ihren Betrieb bedeuten kann? Schreiben Sie mir, gern auch für einen Austausch vor Ort in Cadolzburg, Fürth, Nürnberg oder Erlangen.

Cadolzburg · Gespräche vor Ort in der Metropolregion Nürnberg oder per Video in ganz Deutschland