Meine Einordnung
Diese Woche haben zwei Meldungen dieselbe Frage gestellt, nur aus verschiedenen Richtungen: Wie viel lassen wir eine KI selbst machen?
Die erste kommt von OpenAI. Mit ChatGPT Wallet sollen KI-Agenten im Namen der Nutzer einkaufen, vorerst nur für Pro-Kunden in den USA. Bemerkenswert ist, wie vorsichtig das gebaut ist: Der Agent sucht und stellt zusammen, aber vor jedem Kauf prüft der Mensch Artikel, Betrag und Karte und bestätigt per Fingerabdruck oder Gesicht. Die echten Kartendaten sieht weder der Agent noch der Händler, sie bekommen nur einen Einmal-Code für diesen einen Kauf. Das langfristige Ziel nennt OpenAI aber offen: Einkäufe sollen komplett an Agenten gehen, der Mensch legt nur noch Budget und Zeitraum fest.
Die zweite kommt aus dem Wohnzimmer, gehört aber eigentlich in die Werkhalle. Die c't hat einer KI über das Model Context Protocol (MCP) Admin-Rechte auf ein ganzes Smart Home gegeben. Die KI baut Automationen aus einem Satz, gestaltet Dashboards und findet Fehler im Logbuch, die ein Mensch kaum entdeckt hätte. Sie wird zum Bindeglied zwischen Programmen und Geräten, die bisher nichts voneinander wussten. Der Test zeigt aber auch ehrlich die Kehrseite: Eine präparierte Kalendereinladung könnte die KI dazu bringen, unbemerkt etwas anzulegen, was niemand wollte (Prompt-Injection). Der Autor hat deshalb einen eigenen Benutzer für die KI angelegt, den Zugang nur bei Bedarf eingeschaltet, jede Änderung einzeln freigegeben und vorher ein Backup gemacht.
Für Betriebe heißt das: Ob die KI einkauft oder Maschinen steuert, die entscheidende Frage ist nicht, wie schlau sie ist, sondern welche Rechte sie hat. Ich würde ihr keinen Generalschlüssel geben, sondern einen Schlüsselbund mit genau den Türen, die sie braucht. Lesen darf sie viel, ändern und bezahlen nur mit Freigabe. Und wer einen Onlineshop betreibt, sollte das Thema im Blick behalten: Laut OpenAI lehnen viele Shops und Zahlungssysteme Käufe durch Agenten heute noch ab. Wenn sich das durchsetzt, kauft dort irgendwann nicht mehr nur der Mensch.
Die dritte Meldung passt dazu. Tinder soll 11 Millionen Euro zahlen, weil der Daten-Download laut irischer Datenschutzbehörde nur einen Auszug lieferte, aber als vollständige Kopie präsentiert wurde (Match Group geht in Berufung). Die Lehre gilt für jeden Betrieb: Wenn ein Kunde nach seinen Daten fragt, muss man wissen, wo sie überall liegen. Mit jedem KI-Werkzeug, das Zugriff bekommt, wird diese Liste länger.
Weitergedacht
Bildlich gesprochenEine KI mit Admin-Rechten ist wie ein neuer Mitarbeiter, der am ersten Tag alle Schlüssel und die Firmenkreditkarte bekommt. Fleißig, schnell, gut gelaunt. Und niemand weiß, wem er unterwegs zuhört.
Drei Fragen, bevor ein KI-Agent an ein Firmensystem angeschlossen wird:
- Was darf er nur lesen, was darf er ändern oder bezahlen?
- Wer gibt frei, und wo sieht man hinterher, was er getan hat?
- Welche fremden Inhalte liest er mit, etwa E-Mails, Termine oder Webseiten?
Interessant am c't-Test ist auch der Vergleich zur lokalen KI: Sie hält die Daten im Haus, war auf einem Laptop aber deutlich langsamer und hat beim Reparieren an anderer Stelle etwas kaputt gemacht. Lokal ist kein Selbstläufer, sondern eine Frage der passenden Hardware und Aufgabe. Mehr dazu unter Lokale KI als Bindeglied. Wie leicht sich ein Chatbot mit geschickten Formulierungen austricksen lässt, kann man im KI-Labor selbst ausprobieren.
Persönliche Einschätzung. Sie gibt meine eigene Meinung wieder, nicht die meines Arbeitgebers.