Spezialprozessor, der KI-Berechnungen um ein Vielfaches beschleunigt.
Eine GPU (Graphics Processing Unit) ist ein Prozessor, der ursprünglich für Grafik-Berechnungen entwickelt wurde, sich aber als ideal für KI-Berechnungen erwiesen hat. GPUs können tausende Rechenoperationen parallel ausführen, genau das, was KI-Modelle benötigen. NVIDIA ist der führende Hersteller von KI-GPUs. Die parallele Architektur macht GPUs beim KI-Training bis zu 100-mal schneller als herkömmliche CPUs. Neben NVIDIA bieten auch AMD und Intel zunehmend KI-optimierte Chips an, und spezialisierte KI-Beschleuniger wie Googles TPU oder Cerebras Wafer-Scale Engine erweitern das Angebot.
Eine GPU besteht aus tausenden kleinen Rechenkernen, die einfache mathematische Operationen parallel ausführen. KI-Modelle basieren auf Matrixmultiplikationen, bei denen riesige Zahlenblöcke gleichzeitig verarbeitet werden. Genau dafür sind GPUs optimiert. Beim Training eines Modells berechnet die GPU die Vorhersagefehler und passt Millionen von Parametern gleichzeitig an. Bei der Inferenz (Nutzung) berechnet sie die Wahrscheinlichkeiten für das nächste Wort oder die nächste Entscheidung. Der VRAM (Video-RAM) bestimmt, wie große Modelle in den Speicher passen.
Wer lokale KI betreiben möchte, braucht GPUs. Eine einzelne GPU (z. B. NVIDIA RTX 4090 für ca. 1.800 EUR) reicht für kleinere Modelle. Für größere Modelle sind professionelle GPUs (NVIDIA A100, H100) nötig. Die GPU-Wahl bestimmt, welche KI-Modelle lokal lauffähig sind und wie schnell sie antworten. Cloud-GPUs bieten eine flexible Alternative ohne hohe Anfangsinvestition. Für den Mittelstand ist die Entscheidung zwischen eigener GPU-Hardware und Cloud-GPU-Miete eine wichtige strategische Frage, die von Nutzungshäufigkeit, Datenschutzanforderungen und Budget abhängt.
Jannis Gerlinger ist Geschäftsführer der JANGER GmbH. Seit über 15 Jahren entwickelt er digitale Lösungen, erst im UX/UI Design und E-Commerce, heute mit dem Fokus auf sichere KI-Systeme für den Mittelstand. Mit seiner TÜV-Zertifizierung in Verkaufspsychologie verbindet er technisches Know-how mit einem tiefen Verständnis für Geschäftsprozesse.
Die neuesten Praxis-Tipps zur KI-Einführung direkt in dein Postfach. Kein Spam, jederzeit abbestellbar.
