Prompting: Wann ist ein Prompt zu lang?

Prompting: Wann ist ein Prompt zu lang?

Mehr Kontext im Prompt ist meistens besser — aber irgendwann kippt es. Wann ein Prompt zu lang wird, was das kostet und wie du ihn straffst.

Zu viele Fachwörter?→ Im Glossar nachschlagen

Du wolltest ein Bier kaufen. Die KI hat dir zwei eingeschenkt.

Genau das ist mir passiert — in einem Adventure-Spiel, das ich selbst gebaut habe. Eine KI spielt darin den Spielleiter: Sie erfindet die Welt, die Quests, die Figuren und reagiert auf jede Eingabe. „Kauf ein Bier", „geh ins Casino", „sprich mit dem Straßenmusiker" — der Rest entsteht von allein. Kein Durchlauf gleicht dem anderen. Ziemlich cool.

Das Regelwerk dafür steckt im System-Prompt: der Dauer-Anweisung, die die KI bei jeder Aktion mitliest. Und der ist mit der Zeit gewachsen. Von 4.000 auf über 60.000 Tokens (ein Token ist ungefähr eine Silbe). Irgendwann widersprach er sich an manchen Stellen selbst, doppelte Anweisungen wurden doppelt ausgeführt — daher die zwei Bier.

Mehr Kontext ist fast immer richtig

Erst die gute Nachricht, und die gilt für die allermeisten Prompts: Du kannst der KI kaum zu viel Kontext geben. Solange du den Prompt von Hand tippst, schreib lieber zu viel als zu wenig. Die KI ergänzt nicht, was du für selbstverständlich hältst — das haben wir im Prompt-Fail-Artikel durchgespielt. Wer knapp promptet, bekommt knappe, oft unbrauchbare Antworten. Die Grundlagen dazu stehen in Was ist ein Prompt?.

Also: ruhig ausführlich. Was willst du, in welchem Ton, für wen, mit welchen Einschränkungen.

Und wann ist es zu viel?

Wenn der Prompt so lang wird, dass du den Überblick verlierst — dann verliert ihn die KI auch.

Bei meinem Spielleiter-Regelwerk passierten drei Dinge gleichzeitig:

  • Widersprüche. An einer Stelle stand Regel A, dreißig Absätze später das Gegenteil. Die KI würfelte sich aus, welche gilt.
  • Doppelungen. Dieselbe Anweisung zweimal — und prompt wurde sie auch zweimal ausgeführt.
  • Die Kostenfalle. 60.000 Tokens konnten nur noch teure Spitzenmodelle sauber verarbeiten. Günstige Modelle produzierten durch die Bank Müll.

Letzteres wird doppelt teuer: Du zahlst mehr Tokens und ein teureres Modell.

Einmal nachrechnen

Rechnen wir's mit Claude Sonnet durch (zum aktuellen Stand rund 3 Dollar pro Million Input-Tokens). Pro Spieleraktion: 65.000 Tokens rein, 500 raus für die Story.

Das sind rund 20 Cent — pro „geh nach links". Und zwar pro Aktion, pro Spieler. Ein Spiel bis zum Ende durchzuspielen? Locker 500 Aktionen. Macht 100 Euro — für einen einzigen Durchlauf. Mal jeden Besucher, der es ausprobiert. So kann ich das Spiel nicht online stellen; der erste neugierige Nachmittag würde mich ein Vermögen kosten.

Dann habe ich den Prompt überarbeitet: Redundanz raus, Füllwörter raus, Stichpunkte statt ganzer Sätze, überflüssige Meta-Infos gestrichen. Ergebnis: 32.000 Tokens. Halb so groß, gleiches Spiel. Kosten pro Aktion: rund 10 Cent. Schon mal halbiert.

Und jetzt der eigentliche Hebel: Bei 32.000 Tokens kommt auch MiniMax M2.7 mit — ein günstiges Modell aus China (derzeit rund 25 Cent pro Million Input-Tokens, ein Bruchteil von Sonnet). Dieselbe Aktion kostet damit rund einen Cent — ein kompletter Durchlauf also rund 5 Euro statt 100. Mit dem Token-Plan von MiniMax noch mal etwa 90% weniger.

Ja, mit Sonnet oder Opus ist der Spielspaß einen Tick besser. Aber bei dem Preisunterschied?

Wäre lokale KI eine Alternative?

Naheliegende Frage: einfach ein Modell auf dem eigenen Rechner laufen lassen, dann kostet jede Anfrage nichts. Ollama macht das möglich.

Für diesen Fall: eher nicht. Auf normaler Hardware laufen nur kleine Modelle (7B), und die kommen mit einem Kontextfenster von rund 16.500 Tokens — mein 32.000-Token-Regelwerk passt da nicht mal rein. Von der Wartezeit ganz zu schweigen. Lokale KI ist großartig, nur nicht für jede Aufgabe.

Der elegante Ausweg: das Modell aufs Spiel trainieren

Trotzdem bleibt ein Problem: Ein Spiel, das gratis online steht, zahlt jeden Klick jedes Besuchers aus meiner Tasche. Ein Cent mal 500 Aktionen mal viele Neugierige — das summiert sich. Richtig entspannt wird es erst, wenn eine Anfrage fast nichts kostet.

Eine Idee dafür ist verlockend: Statt das Regelwerk bei jeder Aktion mitzuschicken, trainiere ich ein kleines Modell einmal fest darauf. Dann kennt es die Regeln „auswendig", und ich schicke nur noch die Spieleraktion — winzig. Vielleicht liefe so ein SLM (Small Language Model, das kleine Geschwister vom großen LLM) sogar lokal, dann kostet jede Anfrage gar nichts mehr. Ein großes Modell kann Gedichte schreiben und Code reparieren und Spielleiter sein — bei meinem Spiel verschenke ich über 99% davon bei jeder Anfrage.

Der Haken: Training prägt einem Modell vor allem Verhalten und Stil ein, kein zuverlässiges Gedächtnis für Fakten. Das kleine Modell träfe also den Ton meines Spiels — und dächte sich trotzdem gern eigene Regeln aus. Genau das Problem, das ich loswerden wollte.

Ob sich das lohnt, wie lange so ein Training dauert und ob mein Rechner das überhaupt packt? Das ist ein eigener Post. Vorgemerkt. 😉

Der Haken auf der anderen Seite

Jetzt nicht ins andere Extrem kippen und aus Angst vor Kosten zu wenig schreiben. Denn das rächt sich genauso:

Ist dein Prompt zu dünn, fragt die KI nach — oder liefert Murks, den du korrigieren musst. Bei jeder Rückfrage schickst du den ganzen bisherigen Verlauf wieder mit. In Summe sind das oft mehr Tokens, als hättest du gleich ordentlich gepromptet. (Ja, vieles davon wird zwischengespeichert — geschenkt ist es trotzdem nicht.)

Und keine Sorge: Auch wir, die täglich mit den Dingern arbeiten, bessern unsere Prompts ständig nach. Mehr als nur gelegentlich. Das ist kein Anfängerfehler, das ist der Normalzustand.

Die Faustregel

Jeder Prompt, den du von Hand schreibst, ist tendenziell zu kurz. Überleg, ob du mehr Kontext geben kannst.

Zu lang ist ein Prompt erst, wenn er so lang geworden ist, dass du selbst den Überblick verlierst. Spätestens dann gilt: ausmisten. Was sich widerspricht, was sich doppelt, was niemand braucht — raus damit.

Halb so lang, doppelt so klar. Und nebenbei deutlich billiger.