Stell dir vor, du fragst jemanden nach einem guten Buch zu einem Thema. Er nennt dir selbstsicher Titel, Autor, Verlag, Erscheinungsjahr — alles vollständig und überzeugend. Und das Buch existiert nicht. Hat nie existiert. Er hat es sich gerade ausgedacht, weil du eine Antwort erwartet hast.
Willkommen in der Welt der KI-Halluzinationen.
Was ist eine Halluzination?
Der Begriff klingt dramatischer als er ist, trifft es aber gut. Eine KI-Halluzination entsteht, wenn ein Sprachmodell eine Aussage produziert, die faktisch falsch ist — aber mit derselben Überzeugung und demselben Stil wie eine wahre Aussage.
Das Modell weiß nicht, dass es falsch liegt. Es hat keinen inneren Faktenchecker. Es produziert die statistisch plausibelste Fortsetzung deiner Eingabe. Und manchmal ist die plausibelste Fortsetzung leider Unsinn.
Warum passiert das überhaupt?
Hier kommt das entscheidende Missverständnis: ChatGPT ist kein Faktenspeicher. Es ist ein Wahrscheinlichkeitsmodell.
Das Modell hat während des Trainings riesige Mengen Text gelesen. Dabei lernt es, welche Wörter, Sätze und Ideen häufig zusammen vorkommen. Wenn du fragst "Wer hat den Roman X geschrieben?", sucht das Modell nicht in einer Datenbank nach der Antwort. Es berechnet, welcher Name am wahrscheinlichsten in diesem Kontext auftaucht — basierend auf Mustern im Trainingstext.
Wenn diese Muster dünn sind (weil das Buch wenig bekannt ist oder der Sachverhalt komplex), rät das Modell. Und rät dabei mit derselben Selbstsicherheit wie bei einer Frage, auf die es wirklich eine zuverlässige Antwort gelernt hat.
Welche Risiken hat das konkret?
Fake-Quellen. Das ist klassisch: Du fragst nach wissenschaftlichen Studien zu einem Thema, und ChatGPT nennt dir Studien mit echten Zeitschriftennamen, plausiblen Autorennamen — die aber nicht existieren. Wenn du das nicht prüfst und zitierst, sieht das schlecht aus. Oder schlimmer.
Falsche Fakten. Dates, Zahlen, Namen, historische Ereignisse — all das kann falsch sein. Besonders bei Nischenthemen oder aktuellen Ereignissen (das Trainingsmodell hat einen Wissensschnitt, neuere Ereignisse kennt es gar nicht).
Falsche Rechtslage. Wer ChatGPT nach Gesetzen, Fristen oder rechtlichen Anforderungen fragt und die Antwort unhinterfragt übernimmt, kann echte Probleme bekommen.
Medizinische Fehlinformation. Symptome, Diagnosen, Medikamentendosierungen — hier kann eine Halluzination richtig gefährlich werden.
Lügt ChatGPT absichtlich?
Nein. Das ist wichtig zu verstehen. Das Modell hat keine Absichten. Es optimiert nicht für Wahrheit, weil es kein Konzept von Wahrheit hat. Es optimiert für eine plausible, flüssige Antwort. Das ist der Unterschied zwischen einem Lügner und einem, der einfach keine Ahnung hat, aber so tut als ob.
"Halluzination" ist eigentlich das falsche Wort — das Modell erlebt nichts. Aber es ist das gebräuchlichste, also bleiben wir dabei.
Wie geht man damit um?
Vertrau nicht blind. Alles, was du für wichtige Entscheidungen nutzt — medizinisch, rechtlich, finanziell, wissenschaftlich — musst du gegenchecken. Punkt.
Frag nach Quellen, aber prüf sie. ChatGPT nennt dir gerne Quellen. Diese müssen aber verifiziert werden. Kopiere den Titel in Google Scholar oder die jeweilige Zeitschrift und schau, ob es das wirklich gibt.
Nutze Tools mit Quellenanbindung. Perplexity AI etwa gibt echte Links an, die du direkt prüfen kannst. Das reduziert das Halluzinationsrisiko deutlich — nicht auf null, aber deutlich.
Nutze KI für das, wofür sie gut ist. Texte strukturieren, Ideen generieren, Code erklären, Zusammenfassungen schreiben — dabei spielen Halluzinationen eine kleinere Rolle. Faktenrecherche ohne Gegencheck ist dagegen riskant.
Fazit: Nützlich, aber nicht vertrauenswürdig
ChatGPT ist ein mächtiges Werkzeug. Aber es ist kein Lexikon, keine Suchmaschine und kein Experte. Es ist ein sehr überzeugend klingendes Sprachmodell, das manchmal einfach etwas erfindet.
Das ist kein Grund zur Panik. Es ist ein Grund zur Aufmerksamkeit. Wer das versteht, kann KI sinnvoll nutzen — und muss trotzdem weiterhin selbst nachdenken. Was eigentlich das Beste ist, was man über ein Werkzeug sagen kann.
Das war der letzte Post in unserer Einsteiger-Reihe. Was als nächstes kommt: praktische Anwendungsfälle, Schritt für Schritt.