Eine Halluzination ist eine Aussage eines KI-Modells, die überzeugend klingt, aber falsch oder frei erfunden ist. Das Modell nennt dann eine Studie, die es nicht gibt, eine Zahl, die nirgends steht, oder ein Zitat, das nie jemand gesagt hat, und zwar im selben sicheren Ton wie bei einer richtigen Antwort.
Stell dir einen Schüler in einer mündlichen Prüfung vor, der eine Frage nicht beantworten kann. Statt zu schweigen, erzählt er etwas, das gut klingt und ungefähr zum Thema passt. Fragst du ein Modell ohne Websuche nach „drei Studien zu Kaffee und Konzentration mit Link“, kann genau das passieren: echt wirkende Titel, echt wirkende Autoren, Links ins Leere.
Hier erfährst du, warum Sprachmodelle halluzinieren, wie oft das in unabhängigen Tests passiert, welche Arten es gibt und was dagegen wirklich hilft.
1. Warum KI-Modelle halluzinieren
Ein Sprachmodell ist keine Datenbank. Es berechnet bei jedem Schritt, welches Token als Nächstes am wahrscheinlichsten folgt. Wahrscheinlich heißt aber nicht wahr. Drei Ursachen kommen zusammen.
- Lücken im Wissen. Zu seltenen Themen, Personen oder Ereignissen hat das Modell wenig gesehen. Was nach seinem Knowledge Cutoff passiert ist, kennt es gar nicht. Die Vorhersage läuft trotzdem weiter und füllt die Lücke mit etwas Passendem.
- Raten wird belohnt. Forschende von OpenAI haben 2025 argumentiert, dass Training und Benchmarks Raten belohnen. Eine geratene Antwort ist manchmal richtig und bringt Punkte, „Ich weiß es nicht“ bringt nie welche. Modelle lernen dadurch, lieber eine Antwort zu geben als Unsicherheit zuzugeben.
- Zufall bei der Auswahl. Das Modell wählt nicht immer das wahrscheinlichste Token, sondern wählt zufällig aus mehreren Kandidaten. Wie stark, steuern Parameter wie Temperature. Ein einmal gewähltes falsches Detail baut das Modell danach konsequent weiter aus.
Hinzu kommt, dass ein Modell nicht zuverlässig weiß, was es weiß. Fragst du es, ob es sich sicher ist, ist die Antwort darauf nur begrenzt verlässlich, denn auch sie ist vorhergesagter Text.
2. Wie oft Modelle halluzinieren
Eine einzelne Halluzinationsrate gibt es nicht, weil sie stark von der Aufgabe abhängt. Einen guten Eindruck liefert der Wissenstest AA-Omniscience von Artificial Analysis. Er stellt tausende schwierige Wissensfragen und zählt, wie oft ein Modell eine falsche Antwort gibt, statt zuzugeben, dass es sie nicht kennt. Die Halluzinationsrate ist dabei der Anteil falscher Antworten an allen Antworten, die nicht korrekt waren.
In unserer Benchmark-Datenbank stehen Werte für 60 Modelle. Gezählt ist je Modell die Einstellung mit der niedrigsten Halluzinationsrate. Der Median liegt bei 40 %. Nur 5 Modelle bleiben unter 20 %, 24 liegen über 50 %. Diese Modelle raten also in mehr als der Hälfte der Fälle, in denen sie die Antwort nicht wissen.
Die Spanne reicht von 4 % bis 94 %. Ein Modell, das viel weiß, ist dabei nicht automatisch eines, das wenig halluziniert. Entscheidend ist, ob es bei Unwissen „weiß ich nicht“ sagt. Wie einzelne Modelle abschneiden, zeigen die Profile im Modellverzeichnis.
Allerdings:
Der Test misst schwierige Wissensfragen ohne Hilfsmittel. Fasst ein Modell einen Text zusammen, der im Prompt steht, liegt die Fehlerquote meist viel niedriger. Die Zahlen zeigen also das Risiko, wenn du ein Modell aus dem Gedächtnis antworten lässt, nicht seine Fehlerquote bei jeder Aufgabe.
3. Arten von Halluzinationen
- Was passiert
- Das Modell nennt Studien, Bücher, Links oder Urteile, die es nicht gibt
- Beispiel
- Ein Studientitel mit echt klingenden Autoren und einem Link, der ins Leere führt
- Was passiert
- Eine Zahl, ein Datum oder ein Name stimmt nicht
- Beispiel
- Ein falsches Gründungsjahr oder eine erfundene Umsatzzahl
- Was passiert
- Beim Zusammenfassen oder Übersetzen kommt etwas hinzu, das im Original nicht steht
- Beispiel
- Eine Zusammenfassung nennt eine Frist, die im Vertrag fehlt
- Was passiert
- Software, Programmbibliotheken oder Befehle werden mit Fähigkeiten beschrieben, die sie nicht haben
- Beispiel
- Ein Code-Beispiel ruft eine Funktion auf, die es in der Bibliothek nicht gibt
- Was passiert
- Richtige Informationen werden der falschen Person, Firma oder Version zugeordnet
- Beispiel
- Ein Zitat wird dem falschen Politiker zugeschrieben
gradually.aiIn der Forschung unterscheidet man oft zwei Gruppen. Intrinsische Halluzinationen widersprechen dem Material, das dem Modell vorliegt. Extrinsische Halluzinationen fügen etwas hinzu, das sich aus dem Material weder belegen noch widerlegen lässt.
4. Praxisbeispiel: derselbe Auftrag, zwei Prompts
Wie stark der Prompt das Risiko beeinflusst, zeigt ein konstruiertes Beispiel. Die Ausgaben sind Illustrationen und stammen nicht aus einem bestimmten Modelllauf.
Prompt A:
Welche Urteile gibt es zur Haftung bei KI-generierten Texten in Deutschland?
Nenne Aktenzeichen.
Mögliche Antwort:
Wichtig ist ein Urteil des Landgerichts Hamburg vom 31.04.2024 (Az. 308 O 112/24) ...Gericht und Aktenzeichen sehen echt aus. In diesem Beispiel verrät nur das Datum den Fehler, denn einen 31. April gibt es nicht. Bei echten Halluzinationen fehlt so ein Hinweis meist. Genau solche Details sind gefährlich, weil sie Glaubwürdigkeit erzeugen. Bekannt wurde das 2023 in den USA, als ein Anwalt in einem Verfahren gegen die Fluggesellschaft Avianca Urteile zitierte, die ChatGPT erfunden hatte.
Prompt B:
Hier sind drei Urteile als PDF. Fasse zusammen, was sie zur Haftung bei
KI-generierten Texten sagen. Zitiere für jede Aussage die Seite.
Wenn die Dokumente eine Frage nicht beantworten, schreib „nicht enthalten“.Prompt B gibt dem Modell das Material, verlangt Belege und erlaubt ausdrücklich, eine Lücke zuzugeben. Das senkt das Risiko deutlich, schließt Fehler aber nicht aus. Prüfe bei wichtigen Aussagen trotzdem die genannte Stelle.
5. Was gegen Halluzinationen hilft und was nicht
- Hilft am meisten, weil das Modell nicht aus dem Gedächtnis antworten muss
- Hilft, weil du Behauptungen gezielt prüfen kannst
- Hilft, weil das Modell seltener rät
- Hilft bei Logik und Rechnungen, beseitigt erfundene Fakten aber nicht
- Findet manche Fehler, kann sich aber ebenfalls irren
- Hilft allein kaum, wenn dem Modell das Wissen fehlt
- Nur bedingt verlässlich, auch die Selbstauskunft ist vorhergesagter Text
gradually.aiAuch RAG ist kein Allheilmittel. In einer Stanford-Studie von 2024 halluzinierten juristische Recherche-Tools trotz RAG in 17 bis 33 % der Anfragen. Findet die Suche die falschen Stellen, baut das Modell seine Antwort eben auf falschem Material auf. Und Fine-Tuning mit neuen Fakten kann Halluzinationen sogar fördern, wie eine Studie aus dem Jahr 2024 zeigt.
6. Was heißt das für dich?
- Gib dem Modell das Material. Lade die Datei hoch, füge den Text ein oder schalte die Websuche ein, statt das Modell aus dem Gedächtnis antworten zu lassen. Wie viel auf einmal hineinpasst, steht im Eintrag zum Context Window.
- Prüfe Zahlen, Zitate, Namen und Quellen immer. Das sind die Stellen, an denen Halluzinationen am häufigsten stecken und am meisten schaden.
- Öffne jeden Link. Eine Quelle, die du nicht findest, existiert womöglich nicht.
- Erlaube Lücken. Schreib in deinen Prompt oder System-Prompt, dass das Modell fehlende Informationen zugeben soll.
- Sei bei neuen und seltenen Themen besonders vorsichtig. Je weniger im Internet darüber steht, desto höher das Risiko.
- Behalte die letzte Entscheidung. KI liefert einen Entwurf, du entscheidest, was davon veröffentlicht oder verschickt wird.