Warum erfindet eine KI manchmal Dinge – und wie verhindere ich das?
Weil ein Sprachmodell das wahrscheinlichste nächste Textstück vorhersagt, statt Fakten nachzuschlagen. Fehlt belastbares Wissen, füllt es die Lücke mit einer flüssig formulierten, aber falschen Antwort – das nennt man Halluzination. Vollständig verhindern lässt es sich nicht, aber deutlich eindämmen: durch Bindung an geprüfte Quellen, klare Anweisungen und eine feste Prüfung jeder faktischen Aussage vor der Nutzung.
Was eine Halluzination ist
Als Halluzination bezeichnet man eine Ausgabe einer KI, die überzeugend und plausibel klingt, aber sachlich falsch oder frei erfunden ist: ein erfundener Name, eine nicht existierende Quelle, eine falsche Zahl oder ein Aktenzeichen, das es so nicht gibt. Das Heikle daran ist, dass die Ausgabe sprachlich genauso souverän wirkt wie eine korrekte Antwort – der Fehler ist dem Text nicht anzusehen.
Warum das passiert
Ein Sprachmodell erzeugt Text, indem es Stück für Stück das wahrscheinlichste nächste Wort vorhersagt – nicht, indem es in einer Datenbank nachschlägt. Fehlt belastbares Wissen zu einer Frage, bricht das Modell nicht ab, sondern formuliert trotzdem flüssig weiter. Genau dann entstehen erfundene Details. Es handelt sich also nicht um einen Defekt, sondern um eine Eigenschaft der Funktionsweise.
| Wann das Risiko steigt | Warum |
|---|---|
| Fragen außerhalb des Allgemeinwissens | Das Modell hat wenig belastbare Muster gelernt |
| Sehr spezifische Details | Namen, Zahlen, Daten lassen sich schwer „raten" |
| Fehlender oder überladener Kontext | Lücken werden gefüllt, Wichtiges geht unter |
Wie Sie das Risiko senken
Der wirksamste Schutz ist eine Bindung an geprüfte Quellen: Antwortet das Werkzeug auf Basis hinterlegter, überprüfbarer Dokumente und gibt die Quelle mit aus, sinkt das Erfindungs-Risiko erheblich. Ergänzend hilft eine klare, kontextreiche Anweisung – Lücken laden zum Erfinden ein, und genau hier zahlt sich die saubere Formulierung einer KI-Anweisung aus.
Wo besondere Vorsicht gilt
Immer dann, wenn ein Ergebnis als Tatsache weiterverwendet wird – in der Recherche, in einem Schreiben an Kunden oder in einem veröffentlichten Text. Hier sollte keine KI-Aussage ungeprüft nach außen gelangen. Das gilt besonders, wenn die Eingabe selbst sensible Inhalte berührt; was Sie dabei beachten müssen, behandeln wir unter welche Daten Sie in eine KI eingeben dürfen.
Verlässlich statt zufällig
Halluzinationen lassen sich nicht vollständig ausschließen, aber auf ein beherrschbares Maß senken – durch Quellenbindung, klare Anweisungen und eine verbindliche Prüfung. Wie sich das im Zusammenspiel mit guter Formulierung verhält, erläutern wir im Beitrag Mit KI richtig kommunizieren.