Die maximale Textmenge, die ein KI-Modell gleichzeitig verarbeiten kann.
Das Kontextfenster (Context Window) definiert, wie viel Text ein Sprachmodell gleichzeitig beruecksichtigen kann, gemessen in Tokens. GPT-4 hat z. B. 128.000 Tokens, Claude bis zu 200.000 Tokens. Je groesser das Kontextfenster, desto laengere Dokumente kann die KI auf einmal analysieren und desto mehr Kontext versteht sie. Das Kontextfenster umfasst dabei sowohl die Eingabe (dein Text, deine Frage, die Anweisungen) als auch die Ausgabe (die Antwort der KI). Ein groesseres Fenster bedeutet also nicht automatisch laengere Antworten, sondern vor allem die Faehigkeit, mehr Eingabematerial gleichzeitig zu verarbeiten.
Wenn du einem Sprachmodell eine Frage stellst, wird der gesamte Text, den das Modell sieht, in Tokens zerlegt. Ein Token entspricht etwa drei Viertel eines deutschen Wortes. Alle Tokens zusammen, deine Eingabe plus die generierte Antwort, muessen in das Kontextfenster passen. Bei einem Modell mit 128.000 Tokens Kontextfenster kannst du also etwa 200 Seiten Text auf einmal verarbeiten. Wird das Fenster ueberschritten, vergisst das Modell aeltere Teile des Gespraechs oder kann den Text gar nicht erst verarbeiten. RAG-Systeme umgehen diese Limitierung, indem sie nur die relevantesten Textabschnitte in das Kontextfenster laden.
Die Groesse des Kontextfensters bestimmt, was die KI mit deinen Dokumenten machen kann. Ein kleines Kontextfenster (4.000 Tokens, ungefaehr 5 Seiten) reicht fuer kurze Texte. Fuer die Analyse ganzer Vertraege, Handbuecher oder Berichte brauchst du Modelle mit grossem Kontextfenster, oder eine RAG-Loesung, die relevante Abschnitte vorselektiert. Fuer den Mittelstand ist das ein wichtiges Auswahlkriterium: Wenn du regelmaessig umfangreiche Dokumente verarbeiten musst (Vertraege, technische Dokumentation, Jahresberichte), brauchst du entweder ein Modell mit grossem Kontextfenster oder eine intelligente Vorverarbeitung der Dokumente.
Jannis Gerlinger ist Geschäftsführer der JANGER GmbH. Seit über 15 Jahren entwickelt er digitale Lösungen, erst im UX/UI Design und E-Commerce, heute mit dem Fokus auf sichere KI-Systeme für den Mittelstand. Mit seiner TÜV-Zertifizierung in Verkaufspsychologie verbindet er technisches Know-how mit einem tiefen Verständnis für Geschäftsprozesse.
Die neuesten Praxis-Tipps zur KI-Einführung direkt in dein Postfach. Kein Spam, jederzeit abbestellbar.
