Prompt-Fail: Was KI nicht von selbst mitdenkt

Prompt-Fail: Was KI nicht von selbst mitdenkt

Warum sogar erfahrene KI-Nutzer mit Prompts danebenlangen — zwei Beispiele zeigen, was KI sich nicht von selbst dazudenkt.

Zu viele Fachwörter?→ Im Glossar nachschlagen

Großer Jackpot. 50 Millionen — gedeckelt, Topf randvoll. Und ich, jemand der täglich professionell mit KI-Systemen arbeitet, tippe das ein: "Generiere mir 8 Lottoscheine für Lotto 6 aus 49, wobei sich keine Zahlen wiederholen."

Die KI liefert:

1 – 9 – 17 – 25 – 33 – 41
2 – 10 – 18 – 26 – 34 – 42
3 – 11 – 19 – 27 – 35 – 43

Erster Gedanke: prima, fertig. Zweiter Gedanke, drei Sekunden später: warte mal.

Das ist falsch.

Sollte mir nicht passieren. Ist mir aber passiert. Und genau deshalb erzähle ich das hier: weil dieser Fehler nicht zeigt, dass man keine Ahnung hat — sondern dass man gut genug im Umgang mit KI ist, um nicht mehr jeden Prompt zweimal zu lesen. Willkommen im Club.

Warum "technisch korrekt" manchmal nicht reicht

Keine Zahl kommt doppelt vor — stimmt. Alle Tipps liegen im gültigen Zahlenbereich — stimmt. Die KI hat exakt das geliefert, was du formuliert hast.

Das Problem liegt woanders. Lotto ist nicht nur Wahrscheinlichkeit, sondern auch Auszahlung. Alle Zahlenkombinationen haben dieselbe Gewinnchance auf den Jackpot — rund 1 zu 140 Millionen (inklusive Superzahl), daran ändert kein Prompt etwas. Was sich aber unterscheidet: wie viele andere Spieler dieselbe Kombination getippt haben. Beim Jackpot wird nämlich geteilt — auf alle, die dieselben Zahlen hatten.

Systematische Muster werden von vielen Menschen gespielt. Und wer denselben Prompt wie du eingetippt hat, hat exakt dieselben Scheine bekommen. Je mehr Leute diese Tipps spielen, desto kleiner dein Anteil im Gewinnfall. Der statistische Erwartungswert sinkt — nicht wegen der Gewinnwahrscheinlichkeit, sondern wegen der Jackpot-Teilung.

Die bessere Formulierung wäre gewesen: "Generiere mir 8 zufällige Lottoscheine für Lotto 6 aus 49, wobei sich keine Zahlen wiederholen und keine erkennbaren Muster vorkommen."

Vier Wörter mehr. Komplett anderes Ergebnis.


Pflichtaushang, den wir uns als IT-Spezialisten eigentlich sparen könnten, aber nicht dürfen: Lotto ist Glücksspiel. Jeder ausgegebene Euro hat statistisch etwa 50 Cent Erwartungswert — egal wie klug der Prompt war. Wir wissen das natürlich. Manchmal spielen wir trotzdem, wenn der Jackpot hoch genug ist und der "was wäre wenn"-Kick seinen Preis wert scheint.


Beispiel zwei — wenn technisch korrekt gefährlich wird

Etwas technischer, aber dasselbe Muster.

Prompt: "Baue mir eine REST-API, die Kundendaten speichert und abruft — Namen, E-Mail-Adressen, Bestellungen."

Die KI liefert: saubere Endpunkte, JSON-Antworten, Datenbankanbindung, Fehlerbehandlung. Alles da. Läuft.

Was fehlt: Authentifizierung. Kein Login. Jeder, der die URL kennt — oder der einfach mal GET /customers ausprobiert — kann alle Kundennamen, alle E-Mail-Adressen, alle Bestellungen abrufen. Vollständig. Ohne Passwort.

Die KI hat gebaut, was gefragt wurde. Eine API. Über Zugriffsschutz stand nichts im Prompt — also hat sie keinen eingebaut. Warum auch?

Das ist kein Fehler. Das ist Gehorsam.

Das Muster dahinter

Beide Beispiele folgen derselben Logik: KI ergänzt nicht zwingend, was du für selbstverständlich hältst. Manchmal hast du Glück und die KI ergänzt sinnvoll. Meistens nicht — wie diese Beispiele zeigen.

Du weißt, dass Lotto-Zahlen zufällig sein sollten. Die KI weiß es vielleicht auch — aber sie muss nicht danach handeln, wenn du es nicht verlangst. Du weißt, dass eine API abgesichert gehört. Trotzdem baut die KI eine offene, weil du "Authentifizierung" nicht erwähnt hast.

Das gilt überall. Wer sagt "schreib mir eine E-Mail an meinen Chef", bekommt irgendwas — manchmal sogar etwas Brauchbares. Wer sagt "schreib mir eine kurze, höfliche E-Mail an meinen Chef — er kennt den Hintergrund nicht, der Ton soll direkt aber nicht fordernd sein" — bekommt zuverlässig etwas Nutzbares.

KI-Modelle sind sehr gut darin, das umzusetzen, was im Prompt steht. Auf unausgesprochene Erwartungen zu verlassen ist Glückssache.

Was hilft

Benenne explizit, was du für selbstverständlich hältst. Genau da liegt meistens die Lücke.

Drei Fragen, die fast immer helfen:

  • Was soll das Ergebnis nicht tun oder enthalten?
  • Welche Einschränkungen gelten, die nicht in der Aufgabe stehen?
  • Was ist der eigentliche Zweck dahinter — nicht nur die Aufgabe selbst?

Die Grundlagen von gutem Prompting haben wir in Was ist ein Prompt? aufgeschrieben. Dort anfangen, hier weitermachen.

Und dann: einfach ausprobieren. Lotto spielen? Lieber gar nicht erst anfangen — das System gewinnt am Ende ohnehin. Glücksspielsucht — Bundeszentrale für gesundheitliche Aufklärung