KI-Ready-Check buchenWas Kontextfenster genau ist
Das Kontextfenster (Context Window) definiert, wie viel Text ein Sprachmodell gleichzeitig berücksichtigen kann, gemessen in Tokens. GPT-4 hat z. B. 128.000 Tokens, Claude bis zu 200.000 Tokens. Je größer das Kontextfenster, desto laengere Dokumente kann die KI auf einmal analysieren und desto mehr Kontext versteht sie. Das Kontextfenster umfasst dabei sowohl die Eingabe (dein Text, deine Frage, die Anweisungen) als auch die Ausgabe (die Antwort der KI). Ein größeres Fenster bedeutet also nicht automatisch laengere Antworten, sondern vor allem die Fähigkeit, mehr Eingabematerial gleichzeitig zu verarbeiten.
So funktioniert es
Wenn du einem Sprachmodell eine Frage stellst, wird der gesamte Text, den das Modell sieht, in Tokens zerlegt. Ein Token entspricht etwa drei Viertel eines deutschen Wortes. Alle Tokens zusammen, deine Eingabe plus die generierte Antwort, müssen in das Kontextfenster passen. Bei einem Modell mit 128.000 Tokens Kontextfenster kannst du also etwa 200 Seiten Text auf einmal verarbeiten. Wird das Fenster ueberschritten, vergisst das Modell aeltere Teile des Gesprächs oder kann den Text gar nicht erst verarbeiten. RAG-Systeme umgehen diese Limitierung, indem sie nur die relevantesten Textabschnitte in das Kontextfenster laden.
Was das für dein Unternehmen bedeutet
Die Größe des Kontextfensters bestimmt, was die KI mit deinen Dokumenten machen kann. Ein kleines Kontextfenster (4.000 Tokens, ungefähr 5 Seiten) reicht für kurze Texte. Für die Analyse ganzer Verträge, Handbücher oder Berichte brauchst du Modelle mit grossem Kontextfenster, oder eine RAG-Lösung, die relevante Abschnitte vorselektiert. Für den Mittelstand ist das ein wichtiges Auswahlkriterium: Wenn du regelmäßig umfangreiche Dokumente verarbeiten musst (Verträge, technische Dokumentation, Jahresberichte), brauchst du entweder ein Modell mit grossem Kontextfenster oder eine intelligente Vorverarbeitung der Dokumente.
Beispiele aus der Praxis
- Analyse eines 50-seitigen Vertrags mit grossem Kontextfenster
- Zusammenfassung langer Sitzungsprotokolle
- RAG-System als Alternative bei sehr grossen Dokumentenmengen
- Vergleich mehrerer Angebote in einer einzigen KI-Abfrage
- Vollständige Analyse eines technischen Handbuchs auf Compliance-Vorgaben
Vorteile und Grenzen
Das spricht dafür
- Grosse Kontextfenster ermöglichen die Analyse ganzer Dokumente in einem Durchgang
- Bessere Antwortqualitaet, weil das Modell mehr Zusammenhang berücksichtigen kann
- Komplexe Aufgaben wie Vertragsvergleiche oder umfassende Recherchen werden möglich
- Weniger Aufwand bei der Vorverarbeitung von Dokumenten nötig
Das solltest du einplanen
- Größere Kontextfenster bedeuten höhere Kosten pro Abfrage bei Cloud-Anbietern
- Die Qualität kann bei sehr langen Kontexten in der Mitte abnehmen (Lost in the Middle)
- Mehr Tokens erfordern mehr Rechenleistung und langsamere Antwortzeiten
- Grosse Kontextfenster ersetzen nicht die Notwendigkeit guter Prompt-Formulierung