Halluzination (KI)
Eine Halluzination ist eine Ausgabe eines Sprachmodells, die überzeugend und plausibel klingt, aber sachlich falsch oder frei erfunden ist. Sie ist kein technischer Defekt, sondern eine Folge der wahrscheinlichkeitsbasierten Funktionsweise.
Die Halluzination ist die wichtigste Verlässlichkeits-Grenze generativer Sprachmodelle. Sie erklärt, warum Ausgaben grundsätzlich geprüft gehören und warum eine Quellenbindung über RAG ein zentraler Schutz ist.
In einfachen Worten
Ein Sprachmodell erzeugt Text, indem es das wahrscheinlichste nächste Stück vorhersagt – nicht, indem es Fakten nachschlägt. Fehlt belastbares Wissen zu einer Frage, füllt das Modell die Lücke trotzdem mit einer flüssig formulierten Antwort, die richtig klingt, aber falsch sein kann. Genau das ist eine Halluzination: erfundene Namen, nicht existierende Quellen, falsche Zahlen oder Funktionen, die es so nicht gibt. Besonders heikel ist, dass die Ausgabe sprachlich genauso souverän wirkt wie eine korrekte Antwort – der Fehler ist dem Text nicht anzusehen. Das Risiko steigt bei Fragen außerhalb des Trainings-Wissens, bei sehr spezifischen Details und wenn relevanter Kontext im Kontextfenster fehlt oder im Ballast untergeht.
Wozu brauche ich das?
Halluzinationen sind überall dort ein Thema, wo Ergebnisse als Tatsachen weiterverwendet werden – in der Recherche, in Kunden-Antworten über einen KI-Chatbot oder in veröffentlichten Texten. Der wirksamste Schutz ist eine Bindung an geprüfte Quellen: Über das RAG-Prinzip antwortet das Modell auf Basis hinterlegter, überprüfbarer Dokumente und gibt die Quelle mit aus. Ergänzend reduziert eine klare, kontextreiche Anweisung das Risiko – die Domäne von Prompt-Engineering.
Beispiel aus der Praxis
Ein Steuerbüro lässt sich von einem Sprachmodell eine Frist und das zugehörige Aktenzeichen einer Vorschrift nennen. Das Modell liefert beides flüssig und überzeugend – das Aktenzeichen ist jedoch frei erfunden. Wäre die Angabe ungeprüft in ein Mandanten-Schreiben gewandert, hätte sie echten Schaden angerichtet. Die belastbare Vorgehensweise: Solche Fakten werden grundsätzlich an der Originalquelle geprüft, und für wiederkehrende fachliche Auskünfte wird das Modell an eine gepflegte, überprüfbare Wissensbasis angebunden, statt auf das allgemeine Trainings-Wissen zu vertrauen.
Wirtschaftlicher Nutzen
Die Halluzination ist der Grund, warum KI-Ausgaben eine Prüf-Stufe brauchen, bevor sie verbindlich verwendet werden. Wer das in den Arbeits-Ablauf einbaut – Quellenbindung, Stichproben, klare Zuständigkeit für die Freigabe – kann Sprachmodelle produktiv und zugleich verantwortbar einsetzen. Wer es ignoriert, riskiert falsche Aussagen mit dem vollen Vertrauens-Vorschuss eines souverän formulierten Textes. Klare, kontextreiche Anweisungen aus dem Prompt-Engineering senken die Häufigkeit zusätzlich. Das Risiko verschwindet nicht, aber es lässt sich auf ein beherrschbares Maß senken.
Typische Fehler
- Ausgaben ungeprüft als Fakten übernehmen, weil sie souverän und plausibel klingen.
- Namen, Zahlen, Zitate und Quellen-Angaben nicht gegen das Original prüfen.
- Das Modell für verbindliche fachliche Auskünfte ohne Quellenbindung einsetzen.
- Relevanten Kontext weglassen und so das Erfinden von Details begünstigen.
- Keine klare Zuständigkeit definieren, wer KI-Ergebnisse vor der Nutzung freigibt.
Worauf achten?
- Jede faktische Aussage an der Originalquelle prüfen – besonders Namen, Zahlen und Aktenzeichen.
- Für verlässliche Fach-Antworten eine Quellenbindung über das RAG-Prinzip einrichten.
- Das Kontextfenster bewusst und eindeutig füllen – Lücken laden zum Erfinden ein.
- Eine verbindliche Prüf- und Freigabe-Stufe in den Arbeits-Ablauf aufnehmen.
- Mitarbeitende dafür sensibilisieren, dass überzeugende Formulierung kein Wahrheits-Beleg ist.
Häufig gestellte Fragen
Was ist eine Halluzination bei KI?
Eine Halluzination ist eine Ausgabe eines Sprachmodells, die plausibel klingt, aber sachlich falsch oder erfunden ist. Sie entsteht, weil das Modell das wahrscheinlichste nächste Textstück vorhersagt und Lücken auch dann flüssig füllt, wenn belastbares Wissen fehlt.
Warum halluzinieren Sprachmodelle?
Weil sie auf Wahrscheinlichkeiten beruhen und keine Faktendatenbank sind. Zu Fragen außerhalb ihres Wissens oder bei sehr spezifischen Details erzeugen sie eine überzeugend formulierte Antwort, ohne deren Wahrheitsgehalt prüfen zu können.
Wie lässt sich das Risiko senken?
Am wirksamsten durch Bindung an geprüfte Quellen nach dem RAG-Prinzip, durch klare und kontextreiche Anweisungen sowie durch eine feste Prüf-Stufe vor der Nutzung. Vollständig ausschließen lässt sich das Risiko nicht.
Woran erkenne ich eine Halluzination?
Oft nicht am Text selbst, da falsche Aussagen ebenso souverän formuliert sind wie richtige. Verlässlich ist nur die Prüfung gegen eine unabhängige Quelle – insbesondere bei Namen, Zahlen, Zitaten und Quellen-Angaben.