Das Kontextfenster (Context Window) bezeichnet die maximale Textmenge, die ein KI-Sprachmodell gleichzeitig verarbeiten kann — gemessen in Tokens. Es umfasst die Eingabe des Nutzers, den bisherigen Gesprächsverlauf, mitgelieferte Dokumente und die erzeugte Antwort. Ist das Kontextfenster voll, kann das Modell ältere Informationen nicht mehr berücksichtigen und verliert den Faden.
Wie funktioniert das Kontextfenster?
Ein Sprachmodell hat kein dauerhaftes Gedächtnis: Alles, was es bei einer Antwort berücksichtigen soll, muss im Kontextfenster stehen. Dazu zählen der aktuelle Prompt, vorherige Nachrichten im Gespräch, hochgeladene Dokumente und Systemanweisungen. Aus diesem Gesamtkontext berechnet das Modell seine Antwort.
Die Größe des Kontextfensters wird in Tokens angegeben und unterscheidet sich stark zwischen Modellen — von einigen Tausend bis zu mehreren Hunderttausend Tokens bei aktuellen Spitzenmodellen. Große Kontextfenster erlauben es, ganze Verträge, Bücher oder umfangreiche Datensätze in einem Stück zu verarbeiten.
Warum ist das Kontextfenster wichtig?
Das Kontextfenster bestimmt, welche Aufgaben ein Modell bewältigen kann. Wer ein langes Dokument zusammenfassen, mehrere Quellen vergleichen oder ein langes Gespräch führen will, braucht ausreichend Kontextkapazität. Ist das Fenster zu klein, gehen Informationen verloren: Das Modell „vergisst“ frühere Absprachen oder übersieht Teile eines Dokuments.
Auch die Qualität hängt am Kontext: Selbst bei großen Fenstern verarbeiten Modelle Informationen am Anfang und Ende des Kontexts oft zuverlässiger als solche in der Mitte. Wichtige Anweisungen und Kerninformationen gehören deshalb prominent an den Anfang oder das Ende des Prompts.
Das Kontextfenster in der Praxis
Im Arbeitsalltag zeigt sich das Kontextfenster etwa, wenn ein langer Chat plötzlich inkonsistent wird: Das Modell hat den Anfang des Gesprächs aus dem Fenster verloren. Abhilfe schafft, wichtige Zwischenstände zusammenzufassen und neu in das Gespräch einzuspeisen oder für neue Teilaufgaben ein frisches Gespräch zu beginnen.
Bei der Analyse umfangreicher Unterlagen — etwa wenn eine Kanzlei lange Vertragswerke auswerten lässt — lohnt der Blick auf die Kontextgröße des eingesetzten Modells. Reicht sie nicht aus, werden Dokumente in Abschnitte geteilt oder per Retrieval Augmented Generation nur die jeweils relevanten Passagen in den Kontext geladen.