TÜV-zertifiziert in Verkaufspsychologie
KI-Ready-Check buchen

Start / KI-Lexikon / Token

Token

Definition

Die kleinste Verarbeitungseinheit eines Sprachmodells.

Was Token genau ist

Tokens sind die Bausteine, in die ein Sprachmodell Text zerlegt. Ein Token entspricht ungefähr einem Wort oder Wortteil (im Deutschen ca. 0,75 Wörter pro Token, da zusammengesetzte Wörter oft in mehrere Tokens aufgeteilt werden). Die Menge der verarbeiteten Tokens bestimmt Kosten und Geschwindigkeit bei Cloud-KI-Diensten. Jedes Sprachmodell hat ein maximales Kontextfenster, das in Tokens gemessen wird, z. B. 128.000 Tokens bei GPT-4 Turbo. Sowohl die Eingabe (Prompt) als auch die Ausgabe (Antwort) verbrauchen Tokens, wobei Output-Tokens in der Regel teurer sind als Input-Tokens.

So funktioniert es

Ein Tokenizer zerlegt den Eingabetext in kleine Einheiten nach einem erlernten Vokabular. Häufige Wörter wie 'der' oder 'und' werden zu einem einzelnen Token, seltene oder lange Wörter in mehrere Teile zerlegt. Das Wort 'Geschäftsführer' könnte z. B. in 'Geschäfts' und 'führer' aufgeteilt werden. Dieses Verfahren heißt Subword-Tokenization und basiert meist auf dem Byte Pair Encoding (BPE) Algorithmus. Das Sprachmodell verarbeitet dann diese Token-Sequenz und erzeugt die Antwort Token für Token, wobei jedes neue Token auf allen vorherigen basiert.

Was das für dein Unternehmen bedeutet

Bei Cloud-KI wird nach Token-Verbrauch abgerechnet. Lange Dokumente bedeuten viele Tokens und damit höhere Kosten. Die Preisunterschiede sind erheblich: GPT-4 kostet etwa 30-mal so viel pro Token wie GPT-3.5. Lokale KI-Systeme haben keine Token-Kosten, du zahlst nur für Hardware und Strom. Das macht lokale KI besonders wirtschaftlich bei hohem Datenvolumen. Durch Prompt-Optimierung und geschickte Systemgestaltung lassen sich Token-Kosten um 30-50 % reduzieren, ohne die Qualität zu beeinträchtigen.

Beispiele aus der Praxis

  • GPT-4 kostet ca. 30 $ pro 1 Million Tokens
  • Ein typischer Geschäftsbrief hat ~300 Tokens
  • Lokale Modelle: keine Token-Kosten
  • Das Kontextfenster von Claude 3 umfasst 200.000 Tokens, etwa 500 Seiten Text
  • Ein 50-seitiges PDF verbraucht ca. 25.000 Tokens bei der Analyse

Vorteile und Grenzen

Das spricht dafür

  • Transparente Kostenberechnung bei Cloud-KI-Diensten
  • Prompt-Optimierung kann Token-Verbrauch und Kosten signifikant senken
  • Lokale Modelle eliminieren Token-Kosten komplett
  • Größere Kontextfenster ermöglichen die Verarbeitung ganzer Dokumente in einem Durchgang

Das solltest du einplanen

  • Deutsche Texte verbrauchen mehr Tokens als englische (ca. 30 % mehr)
  • Token-Kosten können bei hohem Volumen schnell unkontrolliert steigen
  • Kontextfenster-Limits begrenzen die maximale Dokumentlänge pro Anfrage
  • Unterschiedliche Modelle verwenden unterschiedliche Tokenizer, was Kostenvergleiche erschwert

Quellen

Verwandte Begriffe.

Diese Einträge gehören technisch zum selben Thema und erklären die Bausteine dahinter.

Grundlagen

Large Language Model (LLM)

Große Sprachmodelle, die menschliche Sprache verstehen und generieren.

Definition lesen Praxis im Unternehmen

ROI (Return on Investment)

Kennzahl für die Wirtschaftlichkeit einer Investition.

Definition lesen Technik

Prompt

Die Texteingabe oder Anweisung, die an ein KI-System gestellt wird.

Definition lesen Technik

Kontextfenster

Die maximale Textmenge, die ein KI-Modell gleichzeitig verarbeiten kann.

Definition lesen

Alle 91 Begriffe ansehen

Häufige Fragen zu Token.

Deine Frage fehlt? Schreib uns, wir antworten innerhalb eines Werktags.

Wie viele Tokens hat ein typisches Geschäftsdokument?

Eine DIN-A4-Seite Text hat etwa 500-600 Tokens auf Deutsch. Ein typischer Geschäftsbrief umfasst ca. 300 Tokens, eine 20-seitige Vertragsanalyse rund 10.000-12.000 Tokens. Du kannst den Token-Verbrauch vorab mit kostenlosen Tokenizer-Tools testen.

Warum verbrauchen deutsche Texte mehr Tokens als englische?

Deutsche Texte enthalten viele zusammengesetzte Wörter (z. B. 'Betriebsvereinbarung'), die vom Tokenizer in mehrere Tokens zerlegt werden. Da die meisten Sprachmodelle primär auf englischen Daten trainiert wurden, ist das englische Vokabular effizienter tokenisiert. Im Schnitt braucht Deutsch ca. 30 % mehr Tokens.

Wie kann ich Token-Kosten reduzieren?

Drei bewährte Strategien: Erstens, Prompts kürzer und präziser formulieren. Zweitens, für einfache Aufgaben günstigere Modelle verwenden (z. B. GPT-3.5 statt GPT-4). Drittens, häufig wiederkehrende Anfragen cachen, um Doppelverarbeitung zu vermeiden. Zusammen können diese Maßnahmen die Kosten um 50-70 % senken.

Was passiert, wenn mein Text das Kontextfenster überschreitet?

Texte, die das Kontextfenster überschreiten, müssen in Teile aufgeteilt werden (Chunking). RAG-Systeme lösen dieses Problem elegant, indem sie nur die relevanten Textabschnitte an das Modell senden. So können auch Millionen von Seiten verarbeitet werden, ohne das Kontextfenster zu sprengen.

Sind Token-Kosten bei lokaler KI wirklich null?

Ja, bei lokalen Modellen fallen keine Token-Gebühren an. Du zahlst stattdessen für Hardware (GPU, Server) und Strom. Bei hohem Volumen (ab ca. 1 Million Tokens pro Tag) ist die lokale Variante in der Regel günstiger als Cloud-APIs. Der Break-even hängt vom gewählten Cloud-Modell ab.

Wie relevant ist Token für dich?

Im KI-Ready-Check schauen wir gemeinsam auf deine Abläufe und finden heraus, wo KI bei dir wirklich Zeit spart. 45 Minuten, kostenlos, ohne Folien.

KI-Ready-Check buchen