Die maximale Textmenge, die ein KI-Modell gleichzeitig verarbeiten kann.
Das Kontextfenster (Context Window) definiert, wie viel Text ein Sprachmodell gleichzeitig berücksichtigen kann, gemessen in Tokens. GPT-4 hat z. B. 128.000 Tokens, Claude bis zu 200.000 Tokens. Je größer das Kontextfenster, desto laengere Dokumente kann die KI auf einmal analysieren und desto mehr Kontext versteht sie. Das Kontextfenster umfasst dabei sowohl die Eingabe (dein Text, deine Frage, die Anweisungen) als auch die Ausgabe (die Antwort der KI). Ein größeres Fenster bedeutet also nicht automatisch laengere Antworten, sondern vor allem die Fähigkeit, mehr Eingabematerial gleichzeitig zu verarbeiten.
Wenn du einem Sprachmodell eine Frage stellst, wird der gesamte Text, den das Modell sieht, in Tokens zerlegt. Ein Token entspricht etwa drei Viertel eines deutschen Wortes. Alle Tokens zusammen, deine Eingabe plus die generierte Antwort, müssen in das Kontextfenster passen. Bei einem Modell mit 128.000 Tokens Kontextfenster kannst du also etwa 200 Seiten Text auf einmal verarbeiten. Wird das Fenster ueberschritten, vergisst das Modell aeltere Teile des Gesprächs oder kann den Text gar nicht erst verarbeiten. RAG-Systeme umgehen diese Limitierung, indem sie nur die relevantesten Textabschnitte in das Kontextfenster laden.
Die Größe des Kontextfensters bestimmt, was die KI mit deinen Dokumenten machen kann. Ein kleines Kontextfenster (4.000 Tokens, ungefähr 5 Seiten) reicht für kurze Texte. Für die Analyse ganzer Verträge, Handbücher oder Berichte brauchst du Modelle mit grossem Kontextfenster, oder eine RAG-Lösung, die relevante Abschnitte vorselektiert. Für den Mittelstand ist das ein wichtiges Auswahlkriterium: Wenn du regelmäßig umfangreiche Dokumente verarbeiten musst (Verträge, technische Dokumentation, Jahresberichte), brauchst du entweder ein Modell mit grossem Kontextfenster oder eine intelligente Vorverarbeitung der Dokumente.
Jannis Gerlinger ist Geschäftsführer der JANGER GmbH. Seit über 15 Jahren entwickelt er digitale Lösungen, erst im UX/UI Design und E-Commerce, heute mit dem Fokus auf sichere KI-Systeme für den Mittelstand. Mit seiner TÜV-Zertifizierung in Verkaufspsychologie verbindet er technisches Know-how mit einem tiefen Verständnis für Geschäftsprozesse.
Die neuesten Praxis-Tipps zur KI-Einführung direkt in dein Postfach. Kein Spam, jederzeit abbestellbar.
In 15 Minuten findest du heraus, wo KI in deinem Betrieb den größten Hebel hat. Kostenlos, unverbindlich.
