# Modellgröße (Parameter) einfach erklärt | KI-Lexikon > Die Anzahl der trainierbaren Parameter bestimmt die Leistungsfähigkeit eines KI-Modells. Was der Begriff bedeutet, wie die Technik arbeitet und was sie deinem Unternehmen bringt. Quelle: https://gerlinger.ai/lexikon/modellgroesse Stand: 2026-09-10 ## Modellgröße (Parameter) Die Anzahl der trainierbaren Parameter bestimmt die Leistungsfähigkeit eines KI-Modells. ### Was Modellgröße (Parameter) genau ist Die Modellgroesse wird in der Anzahl der Parameter gemessen, also die trainierbaren Stellschrauben des neuronalen Netzes. GPT-4 hat geschätzt über 1 Billion Parameter, Llama 3 gibt es in 8B, 70B und 405B Varianten. Grundsaetzlich gilt: Mehr Parameter bedeuten mehr Wissen und bessere Ergebnisse, aber auch mehr Rechenleistung. Allerdings zeigt sich zunehmend, dass kleinere, spezialisiert trainierte Modelle für bestimmte Aufgaben ähnliche Ergebnisse liefern können wie deutlich größere Generalisten. Die Wahl der richtigen Modellgroesse ist deshalb eine der wichtigsten technischen Entscheidungen beim KI-Einsatz. ### So funktioniert es Parameter sind die numerischen Werte in einem neuronalen Netz, die während des Trainings angepasst werden. Stell dir jeden Parameter als eine kleine Stellschraube vor, die beeinflusst, wie das Modell auf bestimmte Eingaben reagiert. Ein 7B-Modell hat 7 Milliarden solcher Stellschrauben, ein 70B-Modell zehnmal so viele. Während des Trainings werden diese Parameter Schritt für Schritt optimiert, sodass das Modell immer bessere Ergebnisse liefert. Mehr Parameter ermöglichen es dem Modell, feinere Unterscheidungen zu treffen und mehr Wissen zu speichern, benötigen aber proportional mehr Arbeitsspeicher auf der GPU. ### Was das für dein Unternehmen bedeutet Die Modellgroesse bestimmt, welche Hardware du benötigst. Ein 7B-Modell läuft auf einer einzelnen GPU (ab ca. 1.500 EUR), ein 70B-Modell braucht einen dedizierten Server. Für viele Unternehmensaufgaben reichen kleinere Modelle völlig aus. Der richtige Kompromiss zwischen Qualität und Kosten ist entscheidend. Für den Mittelstand gilt die Faustregel: Starte mit einem kleinen Modell und skaliere nur hoch, wenn die Qualität nicht ausreicht. Ein 7B-Modell, das für deine spezifische Aufgabe feinabgestimmt wurde, schlaegt oft ein 70B-Generalistenmodell, und das bei einem Bruchteil der Hardware-Kosten. ### Beispiele aus der Praxis - 7B-Modell für einfache Textaufgaben auf einer Desktop-GPU - 70B-Modell für komplexe Analysen auf einem GPU-Server - 405B-Modell in der Cloud für höchste Qualitätsansprueche - Spezialisiertes 7B-Modell, das durch Fine-Tuning ein 70B-Modell in einer bestimmten Domaene schlaegt - Quantisiertes 70B-Modell, das durch Komprimierung auf einer einzelnen GPU läuft ### Vorteile und Grenzen #### Das spricht dafür - Größere Modelle liefern bessere Ergebnisse bei komplexen, offenen Aufgaben - Kleinere Modelle sind schneller, günstiger und auf einfacher Hardware betreibbar - Breite Auswahl an Modellgroessen ermöglicht passgenaue Lösung für jedes Budget - Quantisierung erlaubt es, grosse Modelle auf kleinerer Hardware zu betreiben #### Das solltest du einplanen - Größere Modelle erfordern teurere Hardware und mehr Energieverbrauch - Antwortzeiten steigen mit der Modellgroesse, was die Nutzererfahrung beeintraechtigen kann - Die Qualitätsunterschiede zwischen Modellgroessen sind nicht immer proportional zu den Kosten - Quantisierung verbessert die Hardware-Anforderungen, kann aber die Qualität leicht reduzieren ### Quellen - [Large Language ModelParameter Counts](https://en.wikipedia.org/wiki/Large_language_model) - [Scaling Laws for Neural Language ModelsOpenAI](https://arxiv.org/abs/2001.08361) - [AI Model EfficiencyHugging Face](https://huggingface.co/docs/transformers/performance) ### Auf einen Blick Das Wichtigste in fünf Sätzen - Die Modellgroesse bestimmt Hardware-Anforderungen, Kosten und Qualität - Für viele Mittelstandsaufgaben reichen 7B-13B-Modelle auf einer einzelnen GPU völlig aus - Ein spezialisiertes kleines Modell schlaegt oft ein grosses Generalistenmodell - Teste verschiedene Größen mit deinem konkreten Anwendungsfall, bevor du in Hardware investierst - Quantisierung ermöglicht größere Modelle auf kleinerer Hardware, ein guter Kompromiss ### Verwandte Begriffe. Diese Einträge gehören technisch zum selben Thema und erklären die Bausteine dahinter. #### Large Language Model (LLM) Große Sprachmodelle, die menschliche Sprache verstehen und generieren. #### GPU (Grafikprozessor) Spezialprozessor, der KI-Berechnungen um ein Vielfaches beschleunigt. #### Lokale KI KI-Systeme, die auf eigenen Servern ohne Cloud-Anbindung laufen. [Alle 91 Begriffe ansehen](https://gerlinger.ai/lexikon) ### Häufige Fragen zu Modellgröße (Parameter). Deine Frage fehlt? [Schreib uns](mailto:hallo@gerlinger.ai), wir antworten innerhalb eines Werktags. #### Welche Modellgroesse brauche ich für mein Unternehmen? Für einfache Aufgaben (E-Mail-Entwuerfe, Zusammenfassungen) reicht ein 7B-Modell auf einer GPU ab ca. 1.500 EUR. Für anspruchsvollere Aufgaben (Vertragsanalyse, komplexe Recherche) empfiehlt sich ein 13B-70B-Modell. Teste immer zuerst ein kleines Modell und skaliere nur hoch, wenn nötig. #### Was bedeutet '7B' oder '70B' bei einem KI-Modell? Das B steht für Billion (englisch für Milliarde). Ein 7B-Modell hat also 7 Milliarden Parameter. Je mehr Parameter, desto mehr 'Wissen' kann das Modell speichern und desto differenzierter kann es antworten, aber desto mehr Rechenleistung wird benötigt. #### Kann ich ein grosses Modell auf einer normalen Grafikkarte betreiben? Durch Quantisierung (Komprimierung) können größere Modelle auf kleinerer Hardware laufen. Ein quantisiertes 70B-Modell läuft beispielsweise auf einer RTX 4090 mit 24 GB VRAM. Die Qualität ist dabei nur minimal reduziert, oft um weniger als 5 Prozent. Werkzeuge wie Ollama machen Quantisierung automatisch. #### Ist ein größeres Modell immer besser? Nicht unbedingt. Für klar definierte Aufgaben kann ein kleineres, auf diese Aufgabe feinabgestimmtes Modell bessere Ergebnisse liefern als ein grosser Generalist. Außerdem sind größere Modelle langsamer und teurer. Die beste Strategie ist, verschiedene Größen mit deinem konkreten Anwendungsfall zu testen. #### Wie entwickelt sich der Trend bei Modellgroessen? Der Trend geht in zwei Richtungen: Einerseits werden die größten Modelle immer größer (über 1 Billion Parameter), andererseits werden kleinere Modelle immer effizienter. Für den Mittelstand ist der zweite Trend relevanter: Modelle wie Phi oder Mistral zeigen, dass kompakte Modelle beeindruckende Ergebnisse liefern können. ### Wie relevant ist Modellgröße (Parameter) für dich? Im KI-Ready-Check schauen wir gemeinsam auf deine Abläufe und finden heraus, wo KI bei dir wirklich Zeit spart. 45 Minuten, kostenlos, ohne Folien.