Context Window: Wie viel Text passt in ein Kontextfenster?

Das Context Window (deutsch: Kontextfenster) ist die Textmenge, die ein Sprachmodell in einem Durchgang berücksichtigen kann. Dazu zählen deine Eingabe, der bisherige Chatverlauf, mitgegebene Dokumente und die Antwort des Modells. Gemessen wird es in Token, nicht in Wörtern.

Stell dir einen Schreibtisch vor. Alles, was darauf liegt, kann das Modell sehen und verwenden. Was nicht mehr draufpasst, existiert für das Modell nicht. Nehmen wir als Beispiel einen Vertrag mit 120 Seiten. Je nach Modell passt er komplett auf den Tisch, oder du musst ihn in Teilen vorlegen.

In unserem Verzeichnis haben 92 von 343 Modellen ein Fenster von mindestens 1 Million Token. Das größte dokumentierte hat Llama 4 Scout mit 10.485.760 Token. Für die Praxis ist aber wichtiger, wie viel davon ein Modell zuverlässig nutzt und was die Nutzung kostet. Darum geht es auf dieser Seite.

1. Token statt Wörter: Wie viel deutscher Text passt hinein?

Ein Token ist ein Textstück, meist ein Wort oder Wortteil. Für Englisch gilt als Faustregel, dass ein Token etwa drei Viertel eines Wortes entspricht. Anthropic gibt für den aktuellen Tokenizer an, dass 1 Million Token ungefähr 555.000 englischen Wörtern entsprechen, bei früheren Modellen waren es etwa 750.000. Der Wert hängt also vom Tokenizer ab. Deutsche Texte brauchen mehr Token je Wort, weil sie viele lange Komposita enthalten.

Die folgende Tabelle rechnet mit 1,7 Token je deutschem Wort und 450 Wörtern je Seite. Das sind grobe Annahmen für ein Rechenbeispiel. Dein Text kann abweichen, den genauen Wert zeigt dir der Token-Zähler.

8.000

Deutsche Wörter

5.000

Buchseiten

10

32.000

Deutsche Wörter

19.000

Buchseiten

40

128.000

Deutsche Wörter

75.000

Buchseiten

165

200.000

Deutsche Wörter

118.000

Buchseiten

260

1.000.000

Deutsche Wörter

588.000

Buchseiten

1.305

Kontextfenster (Token)	Deutsche Wörter	Buchseiten
8.000	5.000	10
32.000	19.000	40
128.000	75.000	165
200.000	118.000	260
1.000.000	588.000	1.305

Eigene Berechnung, Annahmen im Text

PNG|SVG

CC BY 4.0

gradually.ai

2. Was alles ins Fenster zählt

Viele denken, das Fenster betreffe nur das Dokument, das sie hochladen. Tatsächlich teilen sich mehrere Dinge den Platz.

• System-Prompt. Die Anweisung am Anfang, zum Beispiel Rolle und Regeln. Mehr dazu im Eintrag zum System-Prompt.
• Dokumente und Tool-Ergebnisse. Alles, was du oder ein Agent in die Anfrage einfügt.
• Chatverlauf. Jede frühere Frage und Antwort wird bei jeder neuen Nachricht erneut mitgesendet.
• Deine aktuelle Frage.
• Platz für die Antwort. Die Ausgabe des Modells belegt das Fenster ebenfalls, bei Reasoning-Modellen auch die internen Denkschritte.

Bei GPT-6.1 Sol dokumentiert OpenAI ein Fenster von 1.050.000 Token mit höchstens 922.000 Token Eingabe und 128.000 Token Ausgabe. Beides zusammen ergibt die Gesamtgröße. Anthropic nennt für Claude Opus 5.5 ein Fenster von 1 Million Token und höchstens 128.000 Token Ausgabe. Das Output-Limit ist also ein eigenes Limit innerhalb des Fensters.

So sieht die Aufteilung im Rechenbeispiel aus. Das Fenster ist hier bewusst auf 200.000 Token festgelegt, damit der Vertrag sichtbar Platz einnimmt. Die Werte außer dem Vertrag sind frei gewählte Annahmen.

3. Durchgerechnetes Beispiel: Ein Vertrag mit 120 Seiten

Der Vertrag hat 120 Seiten mit je 450 Wörtern, zusammen also 54.000 Wörter. Bei 1,7 Token je Wort sind das etwa 92.000 Token. Die Frage, ob er passt, beantwortet der Vergleich mit dem Fenster.

Claude Opus 5.5

Kontextfenster

1.000.000

Belegt vom Vertrag

9,2 %

Ergebnis

passt

GPT-6.1 Sol

Kontextfenster

1.050.000

Belegt vom Vertrag

8,8 %

Ergebnis

passt

Gemini 4 Argon

Kontextfenster

1.048.576

Belegt vom Vertrag

8,8 %

Ergebnis

passt

Claude Haiku 4.5

Kontextfenster

200.000

Belegt vom Vertrag

46 %

Ergebnis

passt

Llama 3.1 405B

Kontextfenster

128.000

Belegt vom Vertrag

71,9 %

Ergebnis

passt knapp

Gemma 2 9B

Kontextfenster

8.192

Belegt vom Vertrag

1.123 %

Ergebnis

passt nicht

Modell	Kontextfenster	Belegt vom Vertrag	Ergebnis
Claude Opus 5.5	1.000.000	9,2 %	passt
GPT-6.1 Sol	1.050.000	8,8 %	passt
Gemini 4 Argon	1.048.576	8,8 %	passt
Claude Haiku 4.5	200.000	46 %	passt
Llama 3.1 405B	128.000	71,9 %	passt knapp
Gemma 2 9B	8.192	1.123 %	passt nicht

Eigene Berechnung aus den Kontextdaten

PNG|SVG

CC BY 4.0

gradually.ai

Die großen aktuellen Modelle nehmen den Vertrag auf. Ein Modell mit 8.192 Token fasst dagegen nur rund ein Zehntel davon. Dabei ist „passt“ nur die erste Hürde. Der Vertrag soll auch zuverlässig gelesen werden, und er kostet Geld.

4. Größen aktueller Modelle

Die interaktive Tabelle zeigt das Kontextfenster von über 300 Modellen. Du kannst nach Anbieter filtern und nach der Größe sortieren. Die Daten sind dieselben wie im Modellverzeichnis.

Legende:

1 Mio.+ Tokens

200.000-1 Mio. Tokens

100.000-200.000 Tokens

32.000-100.000 Tokens

Unter 32.000 Tokens

Alle UnternehmenZeige 343 Modelle

Kontextfenster nach Modell und Anbieter-Endpunkt. Die jeweilige Quelle ist beim Modell verlinkt.

Modell	Entwickler	Kontextfenster	Entspricht ca.
Llama 4 Scout	Meta	10,5 Mio.	≈ 26.214 Seiten (ca. 30 Harry-Potter-Bände)
Qwen-Long	Alibaba	10 Mio.	≈ 25.000 Seiten (ca. 30 Harry-Potter-Bände)
Gemini 2.0 Pro	Google	2 Mio.	≈ 5.000 Seiten (ca. 6 Harry-Potter-Bände)
Gemini 1.5 Pro	Google	2 Mio.	≈ 5.000 Seiten (ca. 6 Harry-Potter-Bände)
Grok 4.1 Fast	xAI	2 Mio.	≈ 5.000 Seiten (ca. 6 Harry-Potter-Bände)
Grok 4 Fast	xAI	2 Mio.	≈ 5.000 Seiten (ca. 6 Harry-Potter-Bände)
GPT-6.1 Sol	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-6.1 Terra	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-6 Astra	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-6 Sol	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-6 Luna	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-5.6 Sol	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-5.6 Terra	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-5.6 Luna	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-5.5	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-5.5 Pro	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-5.4	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
GPT-5.4 Pro	OpenAI	1,1 Mio.	≈ 2.625 Seiten (ca. 3 Harry-Potter-Bände)
Kimi K3.1 Pro	Moonshot AI	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Llama 4 Maverick	Meta	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 4 Argon	Google DeepMind	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 3.8 Flash	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 3.7 Flash	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 3.6 Flash	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 3.5 Flash	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 3.1 Pro Preview	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 3.5 Flash-Lite	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 3.1 Flash-Lite	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 3 Flash Preview	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 2.5 Pro	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 2.5 Flash	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 2.5 Flash-Lite	Google	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
DeepSeek V4.1 Flash 1017	DeepSeek	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Kimi K3	Moonshot AI	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Muse Wonder	Meta	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Muse Spark 1.3	Meta	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Muse Spark 1.2	Meta	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Laguna S 2.1	Poolside	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
Kolibri 1	Aleph Alpha	1 Mio.	≈ 2.621 Seiten (ca. 3 Harry-Potter-Bände)
GPT-4.1	OpenAI	1 Mio.	≈ 2.619 Seiten (ca. 3 Harry-Potter-Bände)
GPT-4.1 mini	OpenAI	1 Mio.	≈ 2.619 Seiten (ca. 3 Harry-Potter-Bände)
GPT-4.1 nano	OpenAI	1 Mio.	≈ 2.619 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 4 Carbon	Google DeepMind	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 3 Pro	Google	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 2.0 Flash	Google	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Gemini 1.5 Flash	Google	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Grok 4.3	xAI	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Grok 4.20 Reasoning	xAI	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Grok 4.20 Multi-Agent	xAI	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Opus 5.5	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Sonnet 5.5	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Haiku 5.5	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Fable 5.1	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Mythos 5.1	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Fable 5	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Mythos 5	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Sonnet 5	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Opus 5	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Opus 4.8	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Opus 4.7	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Opus 4.6	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Claude Sonnet 4.6	Anthropic	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
DeepSeek-V4.1-Flash	DeepSeek	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
DeepSeek-V4-Pro	DeepSeek	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
DeepSeek-V4-Flash	DeepSeek	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
MiniMax M3	MiniMax	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Qwen 3.7 Max	Alibaba	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Qwen-Plus	Alibaba	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Qwen-Turbo	Alibaba	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
LongCat 2.0	Meituan	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Inkling	Thinking Machines Lab	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Inkling Small	Thinking Machines Lab	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Muse Wonder Full	Meta	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Qwen 3.7 Flash	Alibaba	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Qwen 3.8 Flash	Alibaba	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Qwen 3.8 Max 0902	Alibaba	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Qwen 3.7 Plus	Alibaba	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
GLM-5.3-Flash	Z.ai	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
GLM-5.2	Z.ai	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
GLM-5.3	Z.ai	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
MiMo-V2.5	Xiaomi	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
MiMo-V2.5-Pro	Xiaomi	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
MiMo-V2.5-Pro-UltraSpeed	Xiaomi	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
MiniMax M1	MiniMax	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Nemotron 3 Nano	NVIDIA	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Nemotron 3 Super	NVIDIA	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Nemotron 3 Ultra	NVIDIA	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Nemotron 3.5 Lightning	NVIDIA	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Amazon Nova Premier	Amazon	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Amazon Nova 2 Lite	Amazon	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Amazon Nova 2 Sonic	Amazon	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
MiniMax-01	MiniMax	1 Mio.	≈ 2.500 Seiten (ca. 3 Harry-Potter-Bände)
Mistral Large 4	Mistral AI	524.288	≈ 1.311 Seiten (ca. 5 Romane)
Solar Pro 4	Upstage	512.000	≈ 1.280 Seiten (ca. 5 Romane)
Grok 4.7	xAI	500.000	≈ 1.250 Seiten (ca. 5 Romane)
Grok 4.6	xAI	500.000	≈ 1.250 Seiten (ca. 5 Romane)
Grok 4.5	xAI	500.000	≈ 1.250 Seiten (ca. 5 Romane)
GPT-5.5 Instant	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
ChatGPT chat-latest	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5.4 mini	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5.4 nano	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5.3-Codex	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5.3 Instant	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5.2	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5.1 Thinking	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5.1 Instant	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5.2 Pro	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5.1	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5 Pro	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5 mini	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
GPT-5 nano	OpenAI	400.000	≈ 1.000 Seiten (ca. 4 Romane)
Amazon Nova Pro	Amazon	300.000	≈ 750 Seiten (ca. 3 Romane)
Amazon Nova Lite	Amazon	300.000	≈ 750 Seiten (ca. 3 Romane)
Mistral Large 3	Mistral AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Mistral Medium 3.5	Mistral AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Kimi K2.6	Moonshot AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Kimi K2.7 Code	Moonshot AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.6 Max-Preview	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen3-Max	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Sakana Namazu	Sakana AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Laguna XS 2.1	Poolside	262.144	≈ 655 Seiten (ca. 2 Romane)
Nex-N2-mini	Nex AGI	262.144	≈ 655 Seiten (ca. 2 Romane)
Nex-N2-Pro	Nex AGI	262.144	≈ 655 Seiten (ca. 2 Romane)
Hy3	Tencent	262.144	≈ 655 Seiten (ca. 2 Romane)
Hunyuan A13B Instruct	Tencent	262.144	≈ 655 Seiten (ca. 2 Romane)
Ring 2.6 1T	inclusionAI	262.144	≈ 655 Seiten (ca. 2 Romane)
Ling 3.0 Flash	inclusionAI	262.144	≈ 655 Seiten (ca. 2 Romane)
Trinity Large Thinking	Arcee AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Gemma 4 31B	Google	262.144	≈ 655 Seiten (ca. 2 Romane)
Gemma 4 26B A4B	Google	262.144	≈ 655 Seiten (ca. 2 Romane)
Ministral 3 14B	Mistral AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Ministral 3 8B	Mistral AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Ministral 3 3B	Mistral AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.8 2.4T A95B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.8 27B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.6 35B A3B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.5 397B A17B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.5 122B A10B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.5 35B A3B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.5 27B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.5 9B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 235B A22B Instruct 2507	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 30B A3B Instruct 2507	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 Coder 480B A35B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 Coder Next	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3.6 27B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 Coder 30B A3B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 Next 80B A3B Instruct	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 Next 80B A3B Thinking	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 235B A22B Thinking 2507	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 30B A3B Thinking 2507	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 VL 235B A22B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 VL 30B A3B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 VL 8B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 VL 235B A22B Thinking	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 VL 30B A3B Thinking	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 VL 32B	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Qwen 3 VL 8B Thinking	Alibaba	262.144	≈ 655 Seiten (ca. 2 Romane)
Kimi K2.5	Moonshot AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Kimi K2 Thinking	Moonshot AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Kimi K2 0905	Moonshot AI	262.144	≈ 655 Seiten (ca. 2 Romane)
Grok Build 0.1	xAI	256.000	≈ 640 Seiten (ca. 2 Romane)
Grok 4.1	xAI	256.000	≈ 640 Seiten (ca. 2 Romane)
Grok 4	xAI	256.000	≈ 640 Seiten (ca. 2 Romane)
Mistral Small 4	Mistral AI	256.000	≈ 640 Seiten (ca. 2 Romane)
Codestral Mamba	Mistral AI	256.000	≈ 640 Seiten (ca. 2 Romane)
Qwen3-235B-A22B (256K Update)	Alibaba	256.000	≈ 640 Seiten (ca. 2 Romane)
Seed 1.8	ByteDance	256.000	≈ 640 Seiten (ca. 2 Romane)
Seed 2.0 Pro	ByteDance	256.000	≈ 640 Seiten (ca. 2 Romane)
KAT-Coder-Air V2.5	Kuaishou	256.000	≈ 640 Seiten (ca. 2 Romane)
KAT-Coder-Pro V2.5	Kuaishou	256.000	≈ 640 Seiten (ca. 2 Romane)
Seed 1.6	ByteDance	256.000	≈ 640 Seiten (ca. 2 Romane)
Seed 1.6 Flash	ByteDance	256.000	≈ 640 Seiten (ca. 2 Romane)
Seed 2.0 Lite	ByteDance	256.000	≈ 640 Seiten (ca. 2 Romane)
Seed 2.0 Mini	ByteDance	256.000	≈ 640 Seiten (ca. 2 Romane)
Seed 2.0 Code	ByteDance	256.000	≈ 640 Seiten (ca. 2 Romane)
Seed 2.1 Turbo	ByteDance	256.000	≈ 640 Seiten (ca. 2 Romane)
Step 3.5 Flash	StepFun	256.000	≈ 640 Seiten (ca. 2 Romane)
Step 3.7 Flash	StepFun	256.000	≈ 640 Seiten (ca. 2 Romane)
Jamba Large 1.7	AI21 Labs	256.000	≈ 640 Seiten (ca. 2 Romane)
Jamba2 Mini	AI21 Labs	256.000	≈ 640 Seiten (ca. 2 Romane)
Command A	Cohere	256.000	≈ 640 Seiten (ca. 2 Romane)
Command A Reasoning	Cohere	256.000	≈ 640 Seiten (ca. 2 Romane)
Jamba 1.5 Large	AI21 Labs	256.000	≈ 640 Seiten (ca. 2 Romane)
Jamba 1.5 Mini	AI21 Labs	256.000	≈ 640 Seiten (ca. 2 Romane)
Jamba	AI21 Labs	256.000	≈ 640 Seiten (ca. 2 Romane)
abab6.5s	MiniMax	245.760	≈ 614 Seiten (ca. 2 Romane)
MiniMax M2.7	MiniMax	204.800	≈ 512 Seiten (ca. 2 Romane)
MiniMax M2.5	MiniMax	204.800	≈ 512 Seiten (ca. 2 Romane)
MiniMax M2.1	MiniMax	204.800	≈ 512 Seiten (ca. 2 Romane)
MiniMax M2	MiniMax	204.800	≈ 512 Seiten (ca. 2 Romane)
GLM-4.7	Z.ai	204.800	≈ 512 Seiten (ca. 2 Romane)
GLM-4.6	Z.ai	204.800	≈ 512 Seiten (ca. 2 Romane)
Claude Opus 4.5	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude Sonnet 4.5	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude Haiku 4.5	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude Sonnet 4	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude Opus 4	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude Opus 4.1	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude 3.7 Sonnet	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude 3.5 Sonnet	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude 3.5 Haiku	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude 3 Opus	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude 3 Sonnet	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
Claude 3 Haiku	Anthropic	200.000	≈ 500 Seiten (ca. 2 Romane)
o3	OpenAI	200.000	≈ 500 Seiten (ca. 2 Romane)
o3-pro	OpenAI	200.000	≈ 500 Seiten (ca. 2 Romane)
o4-mini	OpenAI	200.000	≈ 500 Seiten (ca. 2 Romane)
o3-mini	OpenAI	200.000	≈ 500 Seiten (ca. 2 Romane)
o1	OpenAI	200.000	≈ 500 Seiten (ca. 2 Romane)
GLM-5.1	Z.ai	200.000	≈ 500 Seiten (ca. 2 Romane)
GLM-5	Z.ai	200.000	≈ 500 Seiten (ca. 2 Romane)
Sonar Pro	Perplexity	200.000	≈ 500 Seiten (ca. 2 Romane)
GLM-4.7-Flash	Z.ai	200.000	≈ 500 Seiten (ca. 2 Romane)
Yi-34B-200K	01.AI	200.000	≈ 500 Seiten (ca. 2 Romane)
Yi-6B-200K	01.AI	200.000	≈ 500 Seiten (ca. 2 Romane)
DeepSeek-V3.1 Terminus	DeepSeek	163.840	≈ 410 Seiten (ca. 1 Roman)
DeepSeek-V3 0324	DeepSeek	163.840	≈ 410 Seiten (ca. 1 Roman)
DeepSeek-R1 0528	DeepSeek	163.840	≈ 410 Seiten (ca. 1 Roman)
Llama 3.3 70B	Meta	131.072	≈ 328 Seiten (ca. 1 Roman)
Llama 3.2 3B	Meta	131.072	≈ 328 Seiten (ca. 1 Roman)
Llama 3.2 1B	Meta	131.072	≈ 328 Seiten (ca. 1 Roman)
Llama 3.1 70B	Meta	131.072	≈ 328 Seiten (ca. 1 Roman)
Llama 3.1 8B	Meta	131.072	≈ 328 Seiten (ca. 1 Roman)
Grok 3	xAI	131.072	≈ 328 Seiten (ca. 1 Roman)
Mistral Nemo	Mistral AI	131.072	≈ 328 Seiten (ca. 1 Roman)
Qwen 2.5 72B	Alibaba	131.072	≈ 328 Seiten (ca. 1 Roman)
Qwen 2.5 7B	Alibaba	131.072	≈ 328 Seiten (ca. 1 Roman)
Qwen 2.5 Coder 32B	Alibaba	131.072	≈ 328 Seiten (ca. 1 Roman)
Muse Glimmer 30B	Meta	131.072	≈ 328 Seiten (ca. 1 Roman)
Solar Pro 3	Upstage	131.072	≈ 328 Seiten (ca. 1 Roman)
ERNIE 4.5 VL 424B A47B	Baidu	131.072	≈ 328 Seiten (ca. 1 Roman)
Granite 4.1 8B	IBM	131.072	≈ 328 Seiten (ca. 1 Roman)
Granite 4.0 H Micro	IBM	131.072	≈ 328 Seiten (ca. 1 Roman)
Virtuoso Large	Arcee AI	131.072	≈ 328 Seiten (ca. 1 Roman)
Hermes 4 70B	Nous Research	131.072	≈ 328 Seiten (ca. 1 Roman)
Hermes 4 405B	Nous Research	131.072	≈ 328 Seiten (ca. 1 Roman)
GPT OSS 120B	OpenAI	131.072	≈ 328 Seiten (ca. 1 Roman)
GPT OSS 20B	OpenAI	131.072	≈ 328 Seiten (ca. 1 Roman)
Mistral Small 3.2	Mistral AI	131.072	≈ 328 Seiten (ca. 1 Roman)
Mistral Small 3.1	Mistral AI	131.072	≈ 328 Seiten (ca. 1 Roman)
Kimi K2 0711	Moonshot AI	131.072	≈ 328 Seiten (ca. 1 Roman)
GLM-4.6V	Z.ai	131.072	≈ 328 Seiten (ca. 1 Roman)
GLM-4.5	Z.ai	131.072	≈ 328 Seiten (ca. 1 Roman)
GLM-4.5 Air	Z.ai	131.072	≈ 328 Seiten (ca. 1 Roman)
Llama 3.2 90B Vision	Meta	128.000	≈ 320 Seiten (ca. 1 Roman)
Llama 3.2 11B Vision	Meta	128.000	≈ 320 Seiten (ca. 1 Roman)
Llama 3.1 405B	Meta	128.000	≈ 320 Seiten (ca. 1 Roman)
Gemma 3 27B	Google	128.000	≈ 320 Seiten (ca. 1 Roman)
Gemma 3 12B	Google	128.000	≈ 320 Seiten (ca. 1 Roman)
Gemma 3 4B	Google	128.000	≈ 320 Seiten (ca. 1 Roman)
Grok 2	xAI	128.000	≈ 320 Seiten (ca. 1 Roman)
o1-mini	OpenAI	128.000	≈ 320 Seiten (ca. 1 Roman)
GPT-4.5	OpenAI	128.000	≈ 320 Seiten (ca. 1 Roman)
GPT-4o	OpenAI	128.000	≈ 320 Seiten (ca. 1 Roman)
GPT-4o mini	OpenAI	128.000	≈ 320 Seiten (ca. 1 Roman)
GPT-4 Turbo	OpenAI	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek-V3.1	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek-V3	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek-R1	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek-R1-Distill-Llama-70B	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek R1 Distill Qwen 32B	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek R1 Distill Qwen 14B	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek R1 Distill Qwen 7B	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek R1 Distill Llama 8B	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek V2.5	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek Coder V2	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
Mistral Large 2	Mistral AI	128.000	≈ 320 Seiten (ca. 1 Roman)
Ministral 8B	Mistral AI	128.000	≈ 320 Seiten (ca. 1 Roman)
Ministral 3B	Mistral AI	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen3-235B-A22B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen3-32B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen3-14B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen3-8B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen3-30B-A3B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen 2.5 32B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen 2.5 14B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen 2.5 Coder 14B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen 2.5 Coder 7B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Nemotron Nano 2 9B	NVIDIA	128.000	≈ 320 Seiten (ca. 1 Roman)
Nemotron Nano 2 VL 12B	NVIDIA	128.000	≈ 320 Seiten (ca. 1 Roman)
Command R7B	Cohere	128.000	≈ 320 Seiten (ca. 1 Roman)
Sonar	Perplexity	128.000	≈ 320 Seiten (ca. 1 Roman)
Sonar Reasoning Pro	Perplexity	128.000	≈ 320 Seiten (ca. 1 Roman)
Sonar Deep Research	Perplexity	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek-V3.2	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
DeepSeek-V3.2 Exp	DeepSeek	128.000	≈ 320 Seiten (ca. 1 Roman)
Qwen 2.5 VL 72B	Alibaba	128.000	≈ 320 Seiten (ca. 1 Roman)
Command R+	Cohere	128.000	≈ 320 Seiten (ca. 1 Roman)
Command R	Cohere	128.000	≈ 320 Seiten (ca. 1 Roman)
Amazon Nova Micro	Amazon	128.000	≈ 320 Seiten (ca. 1 Roman)
Phi-4-mini	Microsoft	128.000	≈ 320 Seiten (ca. 1 Roman)
Phi-3.5-mini	Microsoft	128.000	≈ 320 Seiten (ca. 1 Roman)
Phi-3.5-MoE	Microsoft	128.000	≈ 320 Seiten (ca. 1 Roman)
Phi-3 Medium	Microsoft	128.000	≈ 320 Seiten (ca. 1 Roman)
Phi-3 Small	Microsoft	128.000	≈ 320 Seiten (ca. 1 Roman)
Phi-3 Mini	Microsoft	128.000	≈ 320 Seiten (ca. 1 Roman)
Yi-Coder 9B	01.AI	128.000	≈ 320 Seiten (ca. 1 Roman)
Yi-Coder 1.5B	01.AI	128.000	≈ 320 Seiten (ca. 1 Roman)
Llama-3.1-Nemotron-70B	Nvidia	128.000	≈ 320 Seiten (ca. 1 Roman)
Llama-3.1-Nemotron-51B	Nvidia	128.000	≈ 320 Seiten (ca. 1 Roman)
Mistral-NeMo-Minitron 8B	Nvidia	128.000	≈ 320 Seiten (ca. 1 Roman)
Reka Core	Reka	128.000	≈ 320 Seiten (ca. 1 Roman)
Reka Flash	Reka	128.000	≈ 320 Seiten (ca. 1 Roman)
Reka Edge	Reka	128.000	≈ 320 Seiten (ca. 1 Roman)
GLM-4	Zhipu AI	128.000	≈ 320 Seiten (ca. 1 Roman)
ChatGLM3-6B	Zhipu AI	128.000	≈ 320 Seiten (ca. 1 Roman)
ERNIE 4.0	Baidu	128.000	≈ 320 Seiten (ca. 1 Roman)
Mixtral 8x22B	Mistral AI	65.536	≈ 164 Seiten
Solar Pro 2	Upstage	65.536	≈ 164 Seiten
GLM-4.5V	Z.ai	65.536	≈ 164 Seiten
Phi-4-mini-flash-reasoning	Microsoft	64.000	≈ 160 Seiten
Mistral Small 3	Mistral AI	32.768	≈ 82 Seiten
Mixtral 8x7B	Mistral AI	32.768	≈ 82 Seiten
Codestral	Mistral AI	32.768	≈ 82 Seiten
Qwen3-4B	Alibaba	32.768	≈ 82 Seiten
Qwen3-1.7B	Alibaba	32.768	≈ 82 Seiten
Qwen3-0.6B	Alibaba	32.768	≈ 82 Seiten
Solar Mini	Upstage	32.768	≈ 82 Seiten
Gemma 3n E4B	Google	32.768	≈ 82 Seiten
Qwen 3 32B	Alibaba	32.768	≈ 82 Seiten
Qwen 3 14B	Alibaba	32.768	≈ 82 Seiten
Qwen 3 8B	Alibaba	32.768	≈ 82 Seiten
Qwen 3 235B A22B	Alibaba	32.768	≈ 82 Seiten
Qwen 3 30B A3B	Alibaba	32.768	≈ 82 Seiten
Phi-4-reasoning	Microsoft	32.768	≈ 82 Seiten
DBRX	Databricks	32.768	≈ 82 Seiten
Gemma 3 1B	Google	32.000	≈ 80 Seiten
Voxtral Small 24B	Mistral AI	32.000	≈ 80 Seiten
Yi-Large	01.AI	32.000	≈ 80 Seiten
Phi-4	Microsoft	16.384	≈ 41 Seiten
Yi-Zap	01.AI	16.000	≈ 40 Seiten
Gemma 2 27B	Google	8.192	≈ 20 Seiten
Gemma 2 9B	Google	8.192	≈ 20 Seiten
GPT-4	OpenAI	8.192	≈ 20 Seiten
Jurassic-2 Ultra	AI21 Labs	8.192	≈ 20 Seiten
GLM-4V	Zhipu AI	8.192	≈ 20 Seiten
ERNIE 3.5	Baidu	8.000	≈ 20 Seiten
Command	Cohere	4.096	≈ 10 Seiten
Nemotron-4 340B	Nvidia	4.096	≈ 10 Seiten
StableLM 2 12B	Stability AI	4.096	≈ 10 Seiten
StableLM Zephyr 3B	Stability AI	4.096	≈ 10 Seiten

Kontextfenster nach Modell und Anbieter-Endpunkt. Die jeweilige Quelle ist beim Modell verlinkt.

Der Median der Modelle, die in den letzten zwölf Monaten erschienen sind, liegt bei etwa 762.000 Token. Ein großes Fenster ist also kein Alleinstellungsmerkmal mehr. Die Modelle unterscheiden sich eher darin, wie gut sie es nutzen.

5. Warum mehr nicht automatisch besser ist

Ein Fenster zu haben heißt nicht, es gleichmäßig gut zu nutzen. Zwei Studien zeigen das.

• Lost in the Middle (Liu et al., 2023). Modelle nutzen Informationen am Anfang und am Ende eines langen Prompts besser als Informationen in der Mitte. Wenn die entscheidende Stelle mittendrin liegt, sinkt die Trefferquote.
• RULER (Hsieh et al., 2024). Die Autoren haben getestet, wie lang der Kontext tatsächlich ist, mit dem Modelle zurechtkommen. Von den untersuchten Modellen, die mindestens 32.000 Token bewerben, hielt nur etwa die Hälfte bei dieser Länge eine zufriedenstellende Leistung.

Daraus folgt der Unterschied zwischen beworbenem und effektivem Kontext. Das beworbene Fenster ist die technische Obergrenze. Der effektive Kontext ist die Länge, bei der das Modell deine Aufgabe noch zuverlässig löst. Beide Studien haben ältere Modelle getestet, aktuelle Modelle können anders abschneiden. Ob ein Modell deine Aufgabe bei voller Länge zuverlässig löst, zeigen die Studien aber nicht. Teste mit deinen eigenen Dokumenten, statt dich auf die Zahl im Datenblatt zu verlassen.

Bei langen Prompts hilft eine einfache Regel. Lege die wichtigsten Informationen und deine Frage an den Anfang oder ans Ende, nicht in die Mitte.

6. Kosten, Preisstufen und Caching

Über die API zahlst du pro Token, und lange Prompts addieren sich. Zwei Mechanismen verändern die Rechnung deutlich. Manche Anbieter berechnen oberhalb einer Kontextgrenze einen höheren Tarif. Und Prompt-Caching macht wiederholt gesendeten Text deutlich günstiger. Die Tabelle rechnet den Vertrag aus dem Beispiel mit den hinterlegten Preisen durch. Verglichen wird das einmalige Senden von 92.000 Eingabe-Token, die Kosten für die Antwort kommen dazu.

Claude Sonnet 5.5

Eingabe je Mio. Token

2,00 $

Höherer Tarif ab (Token)

-

Eingabe oberhalb

-

Vertrag einmal senden

0,18 $

Vertrag aus dem Cache

0,009 $

GPT-6.1 Sol

Eingabe je Mio. Token

2,00 $

Höherer Tarif ab (Token)

272.000

Eingabe oberhalb

4,00 $

Vertrag einmal senden

0,18 $

Vertrag aus dem Cache

0,009 $

Gemini 3.1 Pro Preview

Eingabe je Mio. Token

2,00 $

Höherer Tarif ab (Token)

200.000

Eingabe oberhalb

4,00 $

Vertrag einmal senden

0,18 $

Vertrag aus dem Cache

0,018 $

Claude Haiku 5.5

Eingabe je Mio. Token

0,10 $

Höherer Tarif ab (Token)

100.000

Eingabe oberhalb

0,50 $

Vertrag einmal senden

0,009 $

Vertrag aus dem Cache

0,001 $

Modell	Eingabe je Mio. Token	Höherer Tarif ab (Token)	Eingabe oberhalb	Vertrag einmal senden	Vertrag aus dem Cache
Claude Sonnet 5.5	2,00 $	-	-	0,18 $	0,009 $
GPT-6.1 Sol	2,00 $	272.000	4,00 $	0,18 $	0,009 $
Gemini 3.1 Pro Preview	2,00 $	200.000	4,00 $	0,18 $	0,018 $
Claude Haiku 5.5	0,10 $	100.000	0,50 $	0,009 $	0,001 $

Preisdaten der Anbieter, eigene Berechnung+ 1 weitere

PNG|SVG

CC BY 4.0

gradually.ai

Die Spalte „aus dem Cache“ zeigt den Preis, wenn der Vertrag bereits im Cache liegt und du nur noch Rückfragen stellst. Das erste Senden kostet bei einigen Anbietern einen Aufschlag fürs Schreiben des Caches. Ab der zweiten Frage fällt der Preis auf einen Bruchteil. Wer ein langes Dokument mit vielen Fragen befragt, spart damit am meisten. Mit dem API-Kostenrechner rechnest du dein eigenes Projekt durch, aktuelle Preise je Modell findest du im LLM-Preisindex.

Dazu kommt das Tempo. Je mehr Token im Prompt stehen, desto länger dauert es bis zur ersten Antwort.

7. Wenn der Platz nicht reicht

Wenn ein Dokument nicht ins Fenster passt oder die Leistung bei voller Länge nachlässt, gibt es mehrere Wege.

• Zusammenfassen. Lass lange Teile vorab verdichten und gib nur die Zusammenfassung weiter. Du verlierst Details.
• In Abschnitte teilen. Verarbeite das Dokument kapitelweise und führe die Ergebnisse danach zusammen.
• RAG. Eine Suche holt nur die relevanten Stellen in den Prompt, statt das ganze Dokument mitzusenden. Das spart Kosten. Der Kompromiss besteht darin, dass die Suche eine wichtige Stelle verfehlen kann. Dann fehlt dem Modell genau diese Information. Wie gut das funktioniert, hängt von deiner Suche ab.
• Compaction bei Agenten. Agenten wie Claude Code verdichten ihren Verlauf automatisch, sobald das Fenster voll wird. Dabei gehen Details verloren, deshalb lohnt es sich, wichtige Vorgaben in eine feste Datei zu schreiben.
• Neuer Chat. In langen Unterhaltungen hilft ein Neustart mit einer kurzen Zusammenfassung der wichtigsten Punkte.

8. Was heißt das für dich?

• Miss, bevor du schätzt. Zähle die Token deines Dokuments mit dem Token-Zähler. Deutsche Texte brauchen mehr als englische.
• Plane die Antwort mit ein. Das Output-Limit ist Teil des Fensters. Wer 100 Seiten sendet und eine lange Analyse erwartet, braucht Reserve.
• Prüfe die Qualität bei voller Länge. Frage nach Details aus der Mitte des Dokuments. Wenn das Modell sie verfehlt, ist dein effektiver Kontext kleiner als das beworbene Fenster.
• Nutze Caching bei wiederholten Fragen. Besonders bei langen Dokumenten mit vielen Rückfragen.
• Wähle das Fenster passend zur Aufgabe. Für Smalltalk oder kurze Fragen reicht ein kleines Fenster. Große Fenster lohnen sich für Dokumentanalyse, umfangreiche Prompts und Code über viele Dateien.
• Beachte den Stichtag. Das Fenster sagt nichts darüber, wie aktuell das Wissen ist. Dafür gibt es das Knowledge Cutoff Date.