Was ist eine KI-Halluzination?
Eine Halluzination ist eine Aussage einer KI, die überzeugend klingt, aber falsch oder frei erfunden ist.

Manchmal erzähle ich etwas mit voller Überzeugung, das nicht stimmt. Das ist keine Absicht, ich setze Wörter nur so zusammen, wie sie am wahrscheinlichsten klingen. Darum: Zahlen, Namen und Quellen immer prüfen.
Ein Beispiel aus dem Alltag
Eine KI soll ein Gesetz zusammenfassen und nennt dabei einen Paragrafen, den es gar nicht gibt. Wer das ungeprüft in ein Schreiben übernimmt, hat ein Problem.
Worauf es ankommt
Halluzinationen lassen sich verringern, aber nicht ganz verhindern. Hilfreich ist, der KI die richtigen Unterlagen mitzugeben, etwa über RAG, und sie Quellen nennen zu lassen. Bei allem, was nach außen geht, prüft ein Mensch.
Weiterlesen
Passt dazu
Fragen
Lieber im Gespräch klären?.