Datenschutz-Folgenabschätzung KI: Wann sie Pflicht ist

Eine Datenschutz-Folgenabschätzung (DSFA) ist bei einem KI-System Pflicht, sobald die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten von Betroffenen birgt. Das trifft auf die meisten KI-Anwendungen mit Kunden-, Bewerber- oder Beschäftigtendaten zu, denn KI-Systeme werten Daten systematisch aus und treffen häufig automatisierte Bewertungen. Dieser Ratgeber zeigt, anhand welcher Kriterien du die DSFA-Pflicht für dein KI-System prüfst, was in den Bericht gehört und wie du in 5 Schritten vorgehst.

Was ist eine Datenschutz-Folgenabschätzung?

Eine Datenschutz-Folgenabschätzung ist eine Risikoprüfung nach Art. 35 DSGVO, die ein Unternehmen vor dem Start einer riskanten Datenverarbeitung durchführen muss. Sie dokumentiert, welche personenbezogenen Daten eine geplante Verarbeitung nutzt, welche Risiken daraus für Betroffene entstehen und mit welchen Maßnahmen das Unternehmen diese Risiken senkt.

Die Pflicht trifft nach Art. 35 Abs. 1 DSGVO ausdrücklich Verarbeitungen, die "insbesondere bei Verwendung neuer Technologien" ein hohes Risiko erzeugen können. KI-Systeme fallen genau in diese Kategorie: Sie verarbeiten Daten oft intransparent, in großem Umfang und mit dem Ziel, Menschen zu bewerten oder Entscheidungen über sie vorzubereiten.

Verantwortlich für die DSFA ist immer das Unternehmen, das die KI einsetzt, nicht der KI-Anbieter. Ein Auftragsverarbeitungsvertrag mit dem Anbieter regelt, wie der Anbieter mit den Daten umgeht. Er ersetzt die eigene DSFA nicht, denn die Risikobewertung bleibt Aufgabe des Verantwortlichen.

Der Zweck der DSFA geht über die reine Pflichterfüllung hinaus. Sie zwingt ein Unternehmen, den eigenen KI-Einsatz einmal vollständig durchzudenken, bevor er produktiv läuft: welche Daten fließen hinein, wer trifft am Ende welche Entscheidung, und was passiert, wenn die KI falsch liegt. Diese Fragen sind unabhängig von der DSFA-Pflicht sinnvoll, denn sie decken Schwachstellen auf, bevor sie zu Beschwerden von Kunden oder Beschäftigten führen.

Wann eine DSFA für KI-Systeme Pflicht ist

Die Art. 29 Datenschutzgruppe, deren Leitlinien die europäischen Aufsichtsbehörden weiter anwenden, hat in ihrem Papier WP248 rev.01 9 Risikokriterien für eine DSFA-Pflicht festgelegt. Erfüllt eine geplante Verarbeitung 2 dieser 9 Kriterien, ist eine DSFA in der Regel Pflicht.

• Bewertung oder ScoringDie KI bewertet, klassifiziert oder erstellt ein Profil von Personen, etwa ein Bonitäts- oder Recruiting-Score.
• Automatisierte Entscheidung mit RechtsfolgeDie KI trifft oder bereitet eine Entscheidung vor, die rechtliche oder vergleichbar erhebliche Wirkung hat.
• Systematische ÜberwachungDie KI beobachtet Personen fortlaufend, etwa bei der Auswertung von Arbeitsverhalten.
• Sensible oder höchstpersönliche DatenDie KI verarbeitet Gesundheits-, Bewerbungs- oder andere Daten nach Art. 9 DSGVO.
• Datenverarbeitung in großem UmfangDie KI verarbeitet Daten vieler Betroffener oder große Datenmengen je Betroffenem.
• Abgleich oder Zusammenführung von DatensätzenDie KI verknüpft Daten aus mehreren Quellen zu einem neuen Gesamtbild.
• Daten schutzbedürftiger PersonenBetroffen sind etwa Beschäftigte, Kinder oder Patienten in einem Abhängigkeitsverhältnis.
• Innovative TechnologieDer Einsatz der KI ist neuartig und ihre Risiken sind noch wenig erprobt.
• Ausschluss von einem Recht oder VertragDie KI-Entscheidung verwehrt einer Person den Zugang zu einer Leistung oder einem Vertrag.

Ein Beispiel aus der Praxis: Ein KI-Tool sortiert Bewerbungen vor und erstellt ein Ranking der Kandidaten. Das erfüllt mindestens 3 Kriterien gleichzeitig, Bewertung, automatisierte Entscheidung mit Rechtsfolge und möglicher Ausschluss vom Vertrag. Die DSFA-Pflicht ist damit eindeutig. Wie du diesen Fall zusätzlich nach Art. 22 DSGVO prüfst, erklärt der Ratgeber zu automatisierten KI-Entscheidungen.

Welche KI-Anwendungen typischerweise eine DSFA auslösen

Nicht jedes KI-Tool im Unternehmen erreicht die Schwelle für eine Pflicht-DSFA. Die folgende Übersicht ordnet 5 typische Anwendungsfälle ein, jeweils mit der Begründung aus den 9 Risikokriterien.

Der Unterschied liegt selten am KI-Modell selbst, sondern an den Daten, die es verarbeitet, und an der Frage, ob am Ende eine Bewertung oder Entscheidung über eine konkrete Person steht. Ein interner Assistent, der ausschließlich anonymisierte Texte entwirft, bleibt meist unterhalb der Schwelle. Sobald derselbe Assistent Kundendaten oder Bewerbungen einbezieht, kippt die Einordnung.

Diese 4 Punkte gehören in jede DSFA

Art. 35 Abs. 7 DSGVO schreibt vor, welche 4 Bausteine ein DSFA-Bericht mindestens enthalten muss:

1. Systematische Beschreibung der Verarbeitung: welche Daten die KI verarbeitet, zu welchem Zweck und über welchen Zeitraum.
2. Bewertung von Notwendigkeit und Verhältnismäßigkeit: ob der KI-Einsatz für den Zweck erforderlich ist und ob ein milderes Mittel denselben Nutzen bringt.
3. Bewertung der Risiken für Betroffene: welche konkreten Nachteile Kunden, Bewerbern oder Beschäftigten durch Fehlentscheidungen oder Datenmissbrauch drohen.
4. Abhilfemaßnahmen: technische und organisatorische Maßnahmen, die die identifizierten Risiken senken, etwa menschliche Kontrolle vor jeder finalen Entscheidung.

Fehlt einer dieser 4 Punkte, gilt die DSFA als unvollständig. Die Aufsichtsbehörde kann in diesem Fall verlangen, den Bericht nachzubessern, bevor die KI live geht.

DSFA und FRIA: zwei Folgenabschätzungen mit unterschiedlichem Fokus

Neben der DSFA verlangt die KI-Verordnung für einen Teil der Hochrisiko-Systeme zusätzlich eine Grundrechte-Folgenabschätzung (FRIA) nach Art. 27 KI-VO. Beide Prüfungen ergänzen sich, decken aber unterschiedliche Risiken ab.

Für Hochrisiko-KI nach Anhang III, etwa Recruiting-Systeme oder Bonitätsprüfung, verschiebt der Digital Omnibus die FRIA-Pflicht ebenso wie die übrigen Betreiberpflichten auf den 2. Dezember 2027. Die DSFA-Pflicht nach Art. 35 DSGVO ist von dieser Verschiebung unberührt und gilt unverändert seit Mai 2018, unabhängig vom Zeitplan der KI-Verordnung.

Für die meisten kleinen und mittleren Unternehmen bleibt damit vor allem die DSFA relevant: Die FRIA betrifft nach Art. 27 KI-VO nur öffentliche Stellen, private Betreiber öffentlicher Dienstleistungen und Betreiber von KI zur Bonitätsprüfung oder Versicherungstarifierung. Ein Handwerksbetrieb, der KI im Kundenservice oder Recruiting einsetzt, prüft in der Regel nur die DSFA, muss aber im Blick behalten, ob sich sein Anwendungsfall künftig in einen der drei FRIA-pflichtigen Bereiche verschiebt.

In 5 Schritten zur DSFA für dein KI-System

Für ein einzelnes, klar abgegrenztes KI-System dauert dieser Prozess meist 1 bis 2 Wochen, inklusive Abstimmung mit dem Datenschutzbeauftragten. Bindet das System mehrere Datenquellen ein, etwa ein KI-Agent, der auf CRM, ERP und E-Mail-Postfach zugreift, verlängert sich die Prüfung entsprechend.

DSFA-Pflicht bei KI-Agenten und Automatisierungen

Ein KI-Agent, der mehrere Systeme selbstständig verknüpft, erhöht das Risiko gegenüber einem einzelnen Chatbot gleich doppelt: Er verarbeitet mehr Datenquellen gleichzeitig und trifft häufiger eigenständige Zwischenentscheidungen, etwa welche E-Mail er priorisiert oder welchen Datensatz er einem Vorgang zuordnet. Schritt 1 der DSFA, die Beschreibung des Datenflusses, wird bei Agenten dadurch zum aufwendigsten Teil der Prüfung.

In der Praxis heißt das: Dokumentiere für jeden angebundenen Datenspeicher einzeln, welche Daten der Agent liest und schreibt, statt den gesamten Automatisierungsprozess als eine Blackbox zu behandeln. So lässt sich später auch nachvollziehen, welcher Teilschritt im Zweifel für ein hohes Risiko verantwortlich ist.

Was du tust, wenn die DSFA ein Restrisiko zeigt

Zeigt die DSFA nach Art. 36 Abs. 1 DSGVO, dass trotz aller Abhilfemaßnahmen ein hohes Risiko bestehen bleibt, muss das Unternehmen die zuständige Aufsichtsbehörde vorab konsultieren. Die Behörde hat dann bis zu 8 Wochen Zeit, schriftlich Stellung zu nehmen, in komplexen Fällen verlängert um weitere 6 Wochen. Sie kann den KI-Einsatz in dieser Zeit auch untersagen.

In der Praxis betrifft das nur einen kleinen Teil der Fälle: Die meisten Risiken lassen sich bereits durch die Abhilfemaßnahmen aus Schritt 5 so weit senken, dass kein Restrisiko mehr bleibt und die Konsultationspflicht entfällt. Ein sauber dokumentierter Maßnahmenkatalog ist damit nicht nur Formalität, sondern verhindert ein wochenlanges Genehmigungsverfahren.

Wie oft du die DSFA aktualisieren musst

Eine DSFA ist kein einmaliges Dokument. Sie muss erneut geprüft werden, sobald sich einer dieser Punkte wesentlich ändert:

• Der Zweck der Verarbeitung ändert sich, etwa wenn ein Kundenservice-Chatbot zusätzlich Vertragsentscheidungen automatisiert.
• Das eingesetzte KI-Modell wechselt, etwa beim Umstieg von einem regelbasierten Scoring auf ein lernendes Modell.
• Neue Datenquellen kommen hinzu, etwa wenn ein KI-Agent zusätzlich auf ein weiteres System zugreift.
• Die Zahl der Betroffenen steigt deutlich, etwa beim Rollout eines Pilotprojekts auf das gesamte Unternehmen.

Ohne inhaltliche Änderung empfiehlt die Art. 29 Datenschutzgruppe, eine DSFA spätestens alle 3 Jahre erneut zu prüfen. Das gilt als Richtwert, nicht als starre Frist: Ändert sich das Risiko früher, muss auch die Prüfung früher erfolgen.

Was eine fehlende DSFA kostet

Eine unterlassene Pflicht-DSFA gilt als formeller Verstoß nach Art. 83 Abs. 4 DSGVO. Das Bußgeld reicht bis zu 10 Millionen Euro oder 2 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher liegt. Die Aufsichtsbehörden berücksichtigen bei der Bemessung zusätzlich, wie viele Betroffene angesprochen waren und wie das Unternehmen mit der Behörde kooperiert.

Der Bitkom-Trend verschärft das Risiko zusätzlich: 41 Prozent der deutschen Unternehmen setzen KI 2026 bereits aktiv ein, doppelt so viele wie ein Jahr zuvor (Bitkom, 2026). Je mehr KI-Systeme im Einsatz sind, desto wahrscheinlicher übersieht ein Unternehmen eines davon bei der DSFA-Prüfung.

Neben dem Bußgeld selbst drohen bei einem festgestellten Verstoß eine Untersagungsverfügung für das betroffene KI-System und der Aufwand einer nachträglichen DSFA unter Zeitdruck der Behörde. Beides kostet in der Praxis oft mehr Zeit als die ursprüngliche Prüfung, weil der laufende Betrieb bereits auf das System angewiesen ist.

Warum lokale KI die DSFA seltener zur Pflicht macht

Die Pflicht zur Risikoprüfung selbst entfällt dadurch nicht: Auch eine lokale KI, die Bewerbungen bewertet oder Beschäftigte systematisch auswertet, erfüllt weiterhin Risikokriterien wie Scoring oder systematische Überwachung. Was sinkt, ist das Risikoniveau selbst und damit oft der Aufwand der DSFA, weil einzelne Risikofaktoren wie der internationale Datentransfer entfallen. Wie sich on-premise und Cloud-KI in der Praxis unterscheiden, zeigt der Beitrag zu lokaler KI im Mittelstand.

Häufige Fehler bei der DSFA für KI-Systeme

• Die DSFA erst nach dem Start durchführen. Art. 35 DSGVO verlangt die Prüfung vorab, nicht nachträglich. Eine nachgeholte DSFA schützt nicht vor dem Bußgeld für die Zeit davor.
• Nur das KI-Tool prüfen, nicht den ganzen Prozess. Die DSFA muss auch die vor- und nachgelagerten Schritte erfassen, etwa wer die KI-Ausgabe wie weiterverwendet.
• Den AVV mit dem Anbieter für ausreichend halten. Der AVV regelt die Auftragsverarbeitung, nicht die Risikobewertung. Beides ersetzt sich nicht gegenseitig.
• Die DSFA einmalig erstellen und nie aktualisieren. Ändert sich das KI-Modell, die Datenquelle oder der Einsatzzweck wesentlich, muss die DSFA erneut geprüft werden.
• Den Datenschutzbeauftragten erst am Ende einbinden. Nach Art. 35 Abs. 2 DSGVO muss der Datenschutzbeauftragte bereits während der DSFA konsultiert werden, nicht erst zur Abnahme.
• Die 9 Kriterien nur oberflächlich durchgehen. Ein schnelles "trifft eher nicht zu" ohne schriftliche Begründung hält einer Prüfung durch die Aufsichtsbehörde selten stand.

Aus der Digital-Erfahrung seit 2007 von Gründer Jannis Gerlinger, TÜV-zertifiziert in Verkaufspsychologie und heute mit Fokus auf KI-Systeme für den Mittelstand, zeigt sich ein wiederkehrendes Muster: Unternehmen, die die DSFA als Teil der KI-Einführung mitdenken statt als nachträgliche Hürde, verlieren dadurch keine Zeit. Sie sparen sich stattdessen die aufwendige Nachdokumentation, wenn eine Aufsichtsbehörde oder ein Kunde später danach fragt.

Jannis Gerlinger KI-Berater und Geschäftsführer, JANGER GmbH

Jannis Gerlinger berät kleine und mittlere Unternehmen bei der Einführung von Künstlicher Intelligenz und setzt die Lösungen selbst um: KI-Assistenten, Automationen und individuelle Web-Apps. Als Geschäftsführer der JANGER GmbH arbeitet er seit 2007 an digitalen Systemen für Handwerk, Handel und Industrie, von Onlineshops bis zu internen Werkzeugen. Seine TÜV-Zertifizierung in Verkaufspsychologie verbindet technisches Know-how mit einem tiefen Verständnis für Geschäftsprozesse.