Start/Lichtl erklärt/Halluzination

Was ist eine KI-Halluzination?

Eine Halluzination ist eine Aussage einer KI, die überzeugend klingt, aber falsch oder frei erfunden ist.

Manchmal erzähle ich etwas mit voller Überzeugung, das nicht stimmt. Das ist keine Absicht, ich setze Wörter nur so zusammen, wie sie am wahrscheinlichsten klingen. Darum: Zahlen, Namen und Quellen immer prüfen.

Lichtl erklärt

Ein Beispiel aus dem Alltag

Eine KI soll ein Gesetz zusammenfassen und nennt dabei einen Paragrafen, den es gar nicht gibt. Wer das ungeprüft in ein Schreiben übernimmt, hat ein Problem.

Worauf es ankommt

Halluzinationen lassen sich verringern, aber nicht ganz verhindern. Hilfreich ist, der KI die richtigen Unterlagen mitzugeben, etwa über RAG, und sie Quellen nennen zu lassen. Bei allem, was nach außen geht, prüft ein Mensch.

Fragen Lieber im Gespräch klären?.
info@lumen21.de +49 8856 8690552 Erstgespräch: 30 Minuten, unverbindlich
Stefan Fuchs
Sie sprechen direkt mit mir.Antwort innerhalb eines Werktags.
5,0 bei 21 Google-Bewertungen