# Souveräne KI einfach erklärt | KI-Lexikon

> Was ist souveräne KI? Bedeutung, Stufen der Souveränität, souveräne KI-Plattformen, Cloud und Infrastruktur in Deutschland im Überblick und was davon ein kleines Unternehmen braucht.

Quelle: https://gerlinger.ai/lexikon/souveraene-ki
Stand: 2026-10-09

## Souveräne KI

Souveräne KI ist KI, bei der ein Unternehmen selbst bestimmen kann, wo Daten und Modelle laufen, welchem Recht der Betrieb unterliegt und ob es den Anbieter wechseln kann.

### Was souveräne KI genau ist

Souveräne KI ist KI, bei der ein Unternehmen selbst bestimmen kann, wo Daten und Modelle laufen, welchem Recht der Betrieb unterliegt und ob es den Anbieter wechseln kann. Der Begriff stammt aus der Debatte um digitale Souveränität, die das BSI beschreibt als „die Fähigkeiten und Möglichkeiten von Individuen und Institutionen, ihre Rolle(n) in der digitalen Welt selbstständig, selbstbestimmt und sicher ausüben zu können“ ([BSI, C3A Criteria enabling Cloud Computing Autonomy, Version 1.0, April 2026](https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Empfehlungen-nach-Angriffszielen/Cloud-Computing/C3A/C3A_node.html)).

Souveränität lässt sich abstufen, sie verlangt nicht, dass alles im eigenen Serverraum steht. Bund, Länder und Kommunen haben dafür drei Ziele formuliert: Wechselmöglichkeit, Gestaltungsfähigkeit und Einfluss auf Anbieter ([IT-Planungsrat, Strategie zur Stärkung der Digitalen Souveränität für die IT der Öffentlichen Verwaltung, Januar 2021](https://www.it-planungsrat.de/fileadmin/beschluesse/2021/Beschluss2021-09_Strategie_zur_Staerkung_der_digitalen_Souveraenitaet.pdf)). Für KI heißt das: Kannst du Modell und Anbieter wechseln, die Anwendung anpassen und auf Bedingungen Einfluss nehmen?

Praktisch lohnt der Blick auf vier Ebenen: Daten, Modell, Infrastruktur und das Recht, dem der Anbieter unterliegt.

### Woran sich Souveränität messen lässt

Das bekannteste Raster stammt von der EU-Kommission. Ihr Cloud Sovereignty Framework bewertet Cloud-Dienste nach acht Zielen. Eines davon heißt Data & AI Sovereignty: Es fragt, wie Daten geschützt werden, wo sie verarbeitet werden und wie viel Selbstbestimmung Kunden über KI-Funktionen behalten ([EU-Kommission, Cloud Sovereignty Framework, Version 1.2.1, Oktober 2025](https://commission.europa.eu/document/download/09579818-64a6-4dd5-9577-446ab6219113_en)).

Das Framework kennt fünf Stufen, von SEAL-0 bis SEAL-4. SEAL-0 bedeutet keine Souveränität, der Dienst liegt vollständig in der Hand von Dritten außerhalb der EU. SEAL-2 heißt Datensouveränität: EU-Recht gilt und ist durchsetzbar, wesentliche Abhängigkeiten von außerhalb der EU bleiben. SEAL-4 steht für volle digitale Souveränität unter vollständiger Kontrolle in der EU ([EU-Kommission, Oktober 2025](https://commission.europa.eu/document/download/09579818-64a6-4dd5-9577-446ab6219113_en)). Die Kommission empfiehlt das Raster auch privaten Organisationen ([EU-Kommission, Sovereign Cloud Framework explained, 1. Juni 2026](https://commission.europa.eu/news-and-media/news/sovereign-cloud-framework-explained-2026-06-01_en)).

In Deutschland hat das BSI darauf aufbauend den Kriterienkatalog C3A veröffentlicht. Er ist nicht verbindlich und setzt voraus, dass ein Anbieter die Sicherheitskriterien des C5 erfüllt. Kunden legen damit fest, welches Maß an Souveränität sie brauchen, Anbieter weisen die Erfüllung per Prüfung nach ([BSI, C3A, Version 1.0 vom 27. April 2026](https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Empfehlungen-nach-Angriffszielen/Cloud-Computing/C3A/C3A_node.html)).

### Warum souveräne KI in Deutschland gefragt ist

85 Prozent der Unternehmen halten Deutschland für zu abhängig von US-Cloud-Anbietern, ein Jahr zuvor waren es 78 Prozent ([Bitkom, Deutsche Cloud: 4 von 10 Unternehmen würden Abstriche in Kauf nehmen, Juni 2026](https://www.bitkom.org/Presse/Presseinformation/Deutsche-Cloud-4-von-10-Unternehmen-wuerden-Abstriche-in-Kauf-nehmen), befragt wurden 603 Unternehmen ab 20 Beschäftigten in den Kalenderwochen 14 bis 20 des Jahres 2026).

Ein Grund liegt im US-Recht. Nach dem CLOUD Act müssen Anbieter von Cloud- und Kommunikationsdiensten Daten in ihrem Besitz, Gewahrsam oder unter ihrer Kontrolle auf Anordnung herausgeben, unabhängig davon, ob diese Daten in den USA oder anderswo liegen ([18 U.S.C. § 2713, in Kraft seit März 2018](https://www.law.cornell.edu/uscode/text/18/2713)). Ein Rechenzentrum in Frankfurt allein macht einen Dienst also nicht souverän. Wie groß dieses Risiko für deine Daten ist, bewertet dein Datenschutzbeauftragter oder Anwalt.

### Souveräne KI-Plattformen und Cloud-Angebote im Überblick

Wer souveräne KI-Plattformen vergleicht, trifft auf vier Arten von Angeboten. Sie erreichen unterschiedliche Stufen, die Reihenfolge ist keine Rangliste.

- Souveräne Angebote großer US-Anbieter: AWS betreibt seit dem 15. Januar 2026 die AWS European Sovereign Cloud mit einer ersten Region in Brandenburg. Sie ist laut AWS physisch und logisch von den übrigen Regionen getrennt und wird ausschließlich von Mitarbeitern mit Wohnsitz in der EU betrieben ([AWS, Pressemitteilung vom 15. Januar 2026](https://press.aboutamazon.com/aws/2026/1/aws-launches-aws-european-sovereign-cloud-and-announces-expansion-across-europe)).
- Europäische Cloud mit offenen Modellen: STACKIT bietet mit AI Model Serving offene Sprachmodelle über eine Schnittstelle an, die mit OpenAI kompatibel ist ([STACKIT Docs, November 2025](https://docs.stackit.cloud/products/data-and-ai/ai-model-serving/basics/introduction/)). Laut STACKIT werden Anfragen weder gespeichert noch zum Training genutzt, als Region nennt der Anbieter Germany South ([STACKIT, AI Model Serving, abgerufen am 29.09.2026](https://stackit.com/en/products/data-ai/stackit-ai-model-serving)).
- Europäische Modellanbieter: Mistral AI aus Paris stellt offene Modelle unter der Lizenz Apache 2.0 bereit, die sich laut Mistral mit Werkzeugen wie vLLM auf eigener Infrastruktur betreiben lassen ([Mistral Docs, Deployment, abgerufen am 29.09.2026](https://docs.mistral.ai/models/deployment)). Den Vergleich mit OpenAI und Anthropic zeigt der Artikel [Europäische KI-Anbieter im Vergleich](https://gerlinger.ai/blog/europaeische-ki-anbieter-vergleich).
- Eigener Betrieb: ein offenes Modell auf einem Server im eigenen Haus. Das ist die Stufe mit der meisten Kontrolle und dem meisten eigenen Aufwand, beschrieben im Eintrag [Lokale KI](https://gerlinger.ai/lexikon/lokale-ki).

In regulierten Branchen wie Kanzleien, Arztpraxen oder Finanzdienstleistern kommen die Anforderungen aus Berufsrecht, Aufsicht und Datenschutz, nicht aus dem Etikett „souverän“. Beim Vergleich helfen konkrete Fragen: Wo sitzt die Muttergesellschaft? Wo werden Anfragen verarbeitet? Wer betreibt die Systeme? Welche Unterauftragnehmer gibt es? Wie kommst du mit deinen Daten wieder heraus? Und liegen Prüfberichte vor, etwa nach C5 oder C3A? Worauf es beim Vertrag ankommt, erklärt der Artikel [Auftragsverarbeitung bei KI-Anbietern](https://gerlinger.ai/blog/avv-ki-anbieter-dsgvo).

### KI ohne Hyperscaler: welche Wege es gibt

Hyperscaler sind die großen Cloud-Konzerne wie AWS, Microsoft Azure und Google Cloud. Wer KI ohne sie nutzen will, setzt in der Regel auf offene Modelle, sogenannte Open-Weight-Modelle, die sich herunterladen und selbst betreiben lassen. Üblich sind die drei Wege aus dem Überblick oben: europäische Cloud, europäischer Modellanbieter oder eigener Server. Wie das mit eigener Hardware aussieht, zeigen die Artikel [Lokale KI im Mittelstand](https://gerlinger.ai/blog/lokale-ki-mittelstand) und [Grafikkarte für lokale KI](https://gerlinger.ai/blog/grafikkarte-fuer-lokale-ki).

Der Preis dafür: Die Spitzenmodelle der großen US-Anbieter stehen auf diesen Wegen meist nicht zur Wahl, und für Betrieb, Updates und Sicherheit bist du selbst oder dein Dienstleister zuständig. Teste offene Modelle deshalb vorher an eigenen Aufgaben.

### Souveräne KI, Datensouveränität, lokale KI: die Abgrenzung

[Datensouveränität](https://gerlinger.ai/lexikon/datensouveraenitaet) beschreibt die Kontrolle über die eigenen Daten. Souveräne KI geht weiter und schließt Modell, Betrieb und Wechselmöglichkeit ein. [Lokale KI](https://gerlinger.ai/lexikon/lokale-ki) ist eine Umsetzungsform, bei der alles im eigenen Netz läuft, und damit die höchste Stufe, aber nicht der einzige Weg. [Vendor Lock-in](https://gerlinger.ai/lexikon/vendor-lock-in) ist das Gegenstück: die Abhängigkeit von einem Anbieter, die den Wechsel teuer macht.

### Was das für dein Unternehmen bedeutet

Für kleine und mittlere Unternehmen braucht nicht jede Anwendung die höchste Stufe. Ein praktikabler Weg ist, die eigenen Daten in drei Gruppen zu sortieren (unkritisch, intern, besonders schützenswert) und für jede Gruppe festzulegen, auf welcher Infrastruktur sie verarbeitet werden darf. Diese Zuordnung gehört in die [KI-Governance](https://gerlinger.ai/lexikon/ki-governance) deines Betriebs und in die [KI-Richtlinie](https://gerlinger.ai/ki-richtlinie-unternehmen).

Mindestens so wichtig wie der Standort ist die Wechselmöglichkeit. Lässt sich das Modell austauschen, bleibst du handlungsfähig, wenn ein Anbieter Preise oder Bedingungen ändert. Bei unseren [KI-Lösungen für Unternehmen](https://gerlinger.ai/leistungen/ki-loesungen), etwa einer [KI-Wissensdatenbank](https://gerlinger.ai/ki-wissensdatenbank), ist ein europäischer Server unsere Standardempfehlung, bei besonders sensiblen Daten läuft das Modell auf einem Server bei dir im Haus. Unterauftragnehmer und mögliche Zugriffe aus Drittländern legen wir vor dem Start offen. Die rechtliche Bewertung übernimmt dein Anwalt oder Datenschutzbeauftragter.

### Beispiele aus der Praxis

- Eine Steuerkanzlei betreibt ein offenes Sprachmodell auf einem eigenen Server für die Suche in Mandantenunterlagen
- Marketingtexte ohne Personenbezug laufen über ein US-Modell mit EU-Datenresidenz, Kundendaten bleiben außen vor
- Vor der Auswahl eines Anbieters fragt ein Betrieb Prüfberichte nach C5 und die Liste der Unterauftragnehmer ab

### Vorteile und Grenzen

#### Das spricht dafür

- Du entscheidest selbst, wo sensible Daten verarbeitet werden
- Ein Anbieterwechsel bleibt möglich, wenn Preise oder Bedingungen sich ändern
- Du kannst Kunden klar sagen, wo ihre Daten verarbeitet werden
- Offene Modelle lassen sich an eigene Abläufe anpassen

#### Das solltest du einplanen

- „Souverän“ steht auf vielen Angeboten, die tatsächliche Stufe musst du jeweils einzeln prüfen
- Die Spitzenmodelle großer US-Anbieter stehen auf den höchsten Stufen meist nicht zur Wahl
- Mehr Kontrolle heißt mehr eigene Verantwortung für Betrieb, Updates und Sicherheit
- Ein EU-Rechenzentrum allein klärt nicht, welchem Recht der Anbieter unterliegt

### Quellen

- [C3A Criteria enabling Cloud Computing Autonomy, Version 1.0, April 2026BSI](https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Empfehlungen-nach-Angriffszielen/Cloud-Computing/C3A/C3A_node.html)
- [Cloud Sovereignty Framework, Version 1.2.1, Oktober 2025EU-Kommission](https://commission.europa.eu/document/download/09579818-64a6-4dd5-9577-446ab6219113_en)
- [Sovereign Cloud Framework explained, Juni 2026EU-Kommission](https://commission.europa.eu/news-and-media/news/sovereign-cloud-framework-explained-2026-06-01_en)
- [Strategie zur Stärkung der Digitalen Souveränität, Januar 2021IT-Planungsrat](https://www.it-planungsrat.de/fileadmin/beschluesse/2021/Beschluss2021-09_Strategie_zur_Staerkung_der_digitalen_Souveraenitaet.pdf)
- [Deutsche Cloud: 4 von 10 Unternehmen würden Abstriche in Kauf nehmen, Juni 2026Bitkom](https://www.bitkom.org/Presse/Presseinformation/Deutsche-Cloud-4-von-10-Unternehmen-wuerden-Abstriche-in-Kauf-nehmen)
- [18 U.S.C. § 2713 (CLOUD Act)Legal Information Institute](https://www.law.cornell.edu/uscode/text/18/2713)
- [AWS Launches AWS European Sovereign Cloud, Januar 2026Amazon](https://press.aboutamazon.com/aws/2026/1/aws-launches-aws-european-sovereign-cloud-and-announces-expansion-across-europe)
- [STACKIT AI Model Serving, abgerufen am 29.09.2026STACKIT](https://stackit.com/en/products/data-ai/stackit-ai-model-serving)
- [Deployment, abgerufen am 29.09.2026Mistral Docs](https://docs.mistral.ai/models/deployment)

### Auf einen Blick

Das Wichtigste in fünf Sätzen

- Souveräne KI heißt: Du bestimmst Standort, Rechtsraum und Anbieterwechsel selbst
- Souveränität hat Stufen, die EU-Kommission unterscheidet SEAL-0 bis SEAL-4
- Ein Rechenzentrum in der EU klärt noch nicht, welchem Recht der Anbieter unterliegt
- Ohne Hyperscaler geht es mit offenen Modellen in europäischer Cloud oder auf eigenem Server
- Nicht jede Anwendung braucht die höchste Stufe, die Datenlage entscheidet

### Verwandte Begriffe.

Diese Einträge gehören technisch zum selben Thema und erklären die Bausteine dahinter.

#### Datensouveränität

Die volle Kontrolle eines Unternehmens über seine eigenen Daten.

#### Lokale KI

KI-Systeme, die auf eigenen Servern ohne Cloud-Anbindung laufen.

#### Vendor Lock-in

Abhängigkeit von einem einzelnen KI-Anbieter, die den Wechsel erschwert.

#### Open Source KI

Frei verfügbare KI-Modelle, die ohne Lizenzkosten eingesetzt werden können.

[Alle 101 Begriffe ansehen](https://gerlinger.ai/lexikon)

### Häufige Fragen zu souveräner KI.

Deine Frage fehlt? [Schreib uns](mailto:hallo@gerlinger.ai), wir antworten innerhalb eines Werktags.

#### Was bedeutet souveräne KI?

Souveräne KI ist KI, bei der ein Unternehmen selbst bestimmen kann, wo Daten und Modelle laufen, welchem Recht der Betrieb unterliegt und ob es den Anbieter wechseln kann. Souveränität ist dabei keine Ja-oder-Nein-Frage, sondern hat Stufen, von einem US-Dienst mit EU-Rechenzentrum bis zum eigenen Server im Haus.

#### Was ist der Unterschied zwischen souveräner KI und Datensouveränität?

Datensouveränität beschreibt die Kontrolle über die eigenen Daten, also wo sie liegen und wer darauf zugreifen kann. Souveräne KI schließt zusätzlich das Modell, den Betrieb der Infrastruktur und die Möglichkeit ein, den Anbieter zu wechseln.

#### Welche souveränen KI-Plattformen gibt es in Deutschland?

Es gibt vier Arten von Angeboten: souveräne Angebote großer US-Anbieter wie die AWS European Sovereign Cloud mit einer Region in Brandenburg, europäische Cloud-Anbieter mit offenen Modellen wie STACKIT AI Model Serving, europäische Modellanbieter wie Mistral AI und den eigenen Server mit einem offenen Modell. Sie erreichen unterschiedliche Stufen der Souveränität.

#### Ist KI in einem EU-Rechenzentrum automatisch souverän?

Nein. Der Serverstandort ist nur eine von mehreren Ebenen. Nach dem US CLOUD Act müssen US-Anbieter Daten unter ihrer Kontrolle auf Anordnung herausgeben, unabhängig davon, wo sie gespeichert sind. Entscheidend sind auch der Sitz der Muttergesellschaft, wer die Systeme betreibt und ob du den Anbieter wechseln kannst.

#### Gibt es KI-Lösungen ohne Hyperscaler-Clouds?

Ja. Offene Modelle lassen sich bei europäischen Cloud-Anbietern mit eigenen Rechenzentren, über europäische Modellanbieter oder auf einem eigenen Server betreiben. Die Spitzenmodelle der großen US-Anbieter stehen auf diesen Wegen meist nicht zur Wahl, dafür behältst du mehr Kontrolle.

#### Braucht ein kleines Unternehmen souveräne KI?

Nicht für jede Anwendung. Ein sinnvoller Weg ist, die eigenen Daten in unkritisch, intern und besonders schützenswert einzuteilen und für jede Gruppe die passende Stufe zu wählen. Wichtig ist außerdem, dass sich das Modell später austauschen lässt. Die rechtliche Bewertung übernimmt dein Anwalt oder Datenschutzbeauftragter.

### Wie relevant ist souveräne KI für dich?

Im Analysegespräch schauen wir gemeinsam auf deine Abläufe und finden heraus, wo KI bei dir wirklich Zeit spart. 45 Minuten, kostenlos, ohne Folien.