Du fragst ChatGPT nach einem Buch. Es nennt dir Titel, Autor, Verlag, Erscheinungsjahr — alles klingt plausibel, nichts davon existiert.
Das nennt man in der KI-Welt "Halluzinieren". Und es ist eines der hartnäckigsten Probleme moderner Sprachmodelle.
Was passiert da eigentlich?
Große Sprachmodelle (LLMs — Large Language Models) wie ChatGPT, Claude oder Gemini funktionieren nicht wie eine Suchmaschine. Sie suchen keine Fakten in einer Datenbank. Stattdessen lernen sie aus gigantischen Textmengen, wie Sprache funktioniert — welche Wörter auf welche folgen, welche Antworten zu welchen Fragen passen.
Das Ergebnis ist beeindruckend flüssig. Aber es hat einen Haken: Das Modell weiß oft nicht, ob etwas wahr ist. Es weiß nur, wie es klingt.
Wenn du nach einem Buch fragst, das die KI nicht kennt, erfindet sie kein Buch, weil sie dich täuschen will. Sie erfindet es, weil "Titel — Autor — Verlag — Jahr" das Muster ist, das auf "Welches Buch…?" folgt. Das Modell vervollständigt das Muster. Ob der Inhalt existiert: sekundär.
Warum klingt es so überzeugend?
Das ist der eigentlich beunruhigende Teil. KI-Systeme halluzinieren nicht verlegen oder zögerlich. Sie klingen genauso selbstsicher wie bei korrekten Antworten.
Kein "Ich bin mir nicht sicher, aber..." Kein Zögern. Nur ein flüssig formulierter, falsch erfundener Fakt.
Das liegt daran, dass Sprachmodelle trainiert werden, kohärent und überzeugend klingenden Text zu produzieren — nicht notwendigerweise korrekten. Unsicherheit im Text erzeugen würde das Modell schlechter klingen lassen. Also lässt es das oft sein.
Was erfinden KI-Modelle besonders gerne?
- Quellen und Zitate: Buchtitel, Autoren, DOI-Nummern, Studien — oft komplett erfunden
- Gesetzestexte und Paragraphen: klingen juristisch korrekt, sind es aber nicht immer
- Biographien: Details zu realen Personen, die so aber nicht stimmen
- Aktuelle Ereignisse: besonders wenn das Trainings-Datum weit zurückliegt
- Spezifische Zahlen: Statistiken, Prozentwerte, Jahreszahlen — plausibel, aber ungeprüft
Ein Klassiker: "Zitiere mir drei wissenschaftliche Studien zu X." Die KI liefert drei Studien, komplett mit Autoren und Journals. Mindestens eine davon existiert nicht. Manchmal keine.
Ist das ein Bug?
Nein — und das ist die unbequeme Antwort. Halluzinationen sind kein Fehler im Code, den man einfach patchen kann. Sie sind ein Strukturproblem.
Sprachmodelle sind darauf ausgelegt, Text zu vervollständigen. Dazu brauchen sie keine eingebaute Faktenprüfung. Die Genauigkeit moderner Modelle ist deutlich besser als noch vor drei Jahren — aber nie 100%. Und wird es vermutlich nie sein.
OpenAI, Anthropic, Google — alle arbeiten daran, Halluzinationen zu reduzieren. Retrieval-Augmented Generation (RAG — Antwortgenerierung mit Echtzeitsuche in echten Quellen) lässt Modelle Webseiten oder Datenbanken durchsuchen, bevor sie antworten. Das hilft erheblich. Aber es löst das Grundproblem nicht vollständig.
Was kannst du praktisch tun?
Faustregel: Vertrau dem Modell wie einem Praktikanten am ersten Tag. Engagiert, sprachgewandt, oft hilfreich — und manchmal einfach komplett daneben.
Konkret:
Fakten mit Konsequenzen immer selbst prüfen. Rechtstexte, Medizin, Quellen für Prüfungen oder Berichte — niemals blind übernehmen.
Spezifische Angaben sind ein Warnsignal. Je konkreter (ISBN, Paragraph, Prozentzahl), desto höher das Risiko einer Erfindung.
Nach Quellen fragen — und diese dann wirklich prüfen. Nicht darauf verlassen, dass die genannten Quellen existieren.
KI für Aufgaben nutzen, wo Fehler auffallen, bevor sie schaden. Textentwürfe, Ideen sammeln, Code-Gerüste — hier kann Halluzination kontrolliert bleiben.
Perplexity macht es etwas besser, weil es tatsächlich Webquellen abruft und direkt zitiert. Trotzdem: prüfen.
Was bringt das für den Alltag?
KI-Tools sind trotz Halluzinationen extrem nützlich. Der Trick ist, sie für das einzusetzen, wofür sie gut sind.
Für Kreativarbeit, Strukturierung, erste Entwürfe: hervorragend. Für faktenkritische Aufgaben: immer mit Verifikationsschritt planen. Das ist kein Misstrauensbekenntnis — das ist professioneller Umgang mit einem Werkzeug, das bestimmte Stärken und klare Grenzen hat.
Wer das versteht, nutzt KI besser als jemand, der blind vertraut. Und auch besser als jemand, der pauschal misstraut.