Kurz gesagtWenn eine KI etwas Falsches mit voller Überzeugung behauptet, etwa erfundene Zahlen, Quellen oder Paragrafen.
BildlichDer Stammtischbruder, der zu jedem Thema eine Geschichte hat. Klingt immer gut, stimmt aber nicht immer.
Für Ihren BetriebZahlen, Fristen, Rechtliches und Zitate immer gegenprüfen. Besser wird es, wenn man der KI die richtigen Unterlagen mitgibt, statt sie aus dem Gedächtnis antworten zu lassen.
Ein Beispiel aus dem Alltag
Gefragt nach der Gewährleistungsfrist für eine Dachsanierung, nennt eine KI selbstbewusst eine Zahl samt Paragraf. Der Paragraf existiert, sagt aber etwas anderes. Wer das ungeprüft ins Angebot übernimmt, hat ein Problem.
Kann man Halluzinationen ganz abstellen?
Nein, aber stark verringern: mit eigenen Dokumenten als Grundlage, der Aufforderung, Quellen zu nennen, und einer Prüfung durch einen Menschen bei allem, was wichtig ist.