Art. 5 KI-VO: 8 verbotene KI-Praktiken für KMU

Art. 5 der KI-Verordnung verbietet acht KI-Praktiken vollständig, darunter Emotionserkennung am Arbeitsplatz, Social Scoring und manipulative Techniken. Die Verbote gelten seit dem 2. Februar 2025 und treffen nicht nur Hersteller, sondern jeden Betrieb, der ein solches System einsetzt. Verstöße kosten bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.

Die gute Nachricht vorweg: Die typischen KI-Anwendungen im Mittelstand, also Chatbots, Texterstellung, Wissensdatenbanken oder Automatisierung, stehen nicht auf der Verbotsliste. Trotzdem lohnt der genaue Blick, denn einzelne Funktionen moderner Software rutschen schneller in den verbotenen Bereich, als viele denken. Eine Stimmungsanalyse im Mitarbeiter-Dashboard reicht dafür aus.

Dieser Artikel erklärt alle acht Verbote, zeigt die vier mit echter Relevanz für KMU und liefert einen Prüfablauf in fünf Schritten. Er ergänzt unseren Leitfaden zur KI-Schulungspflicht nach Art. 4, die seit demselben Stichtag gilt.

Art. 5 KI-VO verbietet acht Praktiken vollständig

Die KI-Verordnung (Verordnung (EU) 2024/1689) ordnet KI-Systeme nach Risiko. Verbotene Praktiken bilden die oberste Stufe: Sie gelten als unvereinbar mit den Grundrechten und sind ohne Ausnahmegenehmigung untersagt. Art. 5 Abs. 1 nennt acht Tatbestände:

1. Manipulative Techniken: KI, die Menschen unterschwellig oder absichtlich täuschend beeinflusst und ihnen dadurch erheblichen Schaden zufügt (lit. a).
2. Ausnutzung von Schwachstellen: KI, die Alter, Behinderung oder die soziale und wirtschaftliche Lage von Menschen gezielt ausnutzt (lit. b).
3. Social Scoring: Die Bewertung von Personen anhand ihres Sozialverhaltens oder persönlicher Merkmale, wenn daraus eine ungerechtfertigte Schlechterstellung folgt (lit. c).
4. Predictive Policing per Profiling: Die Risikobewertung, ob jemand eine Straftat begehen wird, allein auf Basis von Profiling oder Persönlichkeitsmerkmalen (lit. d).
5. Gesichtsbilder-Scraping: Das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras zum Aufbau von Gesichtserkennungs-Datenbanken (lit. e).
6. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen: Ausgenommen sind nur medizinische Gründe und Sicherheit (lit. f).
7. Biometrische Kategorisierung: Die Ableitung sensibler Merkmale wie Herkunft, politischer Meinung, Religion oder sexueller Orientierung aus biometrischen Daten (lit. g).
8. Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, mit eng begrenzten Ausnahmen (lit. h).

Die Tatbestände 4, 5, 7 und 8 richten sich primär an Behörden und Spezialanbieter. Für den Mittelstand zählen die ersten drei und vor allem Nummer 6.

Wichtig für das Verständnis: Verboten ist jeweils die Praktik, nicht die Technologie. Eine Kamera am Werkstor ist erlaubt, ihre Nutzung zum Aufbau einer Gesichtserkennungs-Datenbank nicht. Ein Bewertungsalgorithmus ist erlaubt, Social Scoring mit sachfremden Daten nicht. Entscheidend ist, was das System mit welchen Daten zu welchem Zweck tut.

Vier Verbote betreffen den Mittelstand direkt

Vier der acht Verbote können im Alltag eines mittelständischen Betriebs auftauchen, meist versteckt als Funktion in eingekaufter Software. Die Verbote gelten nämlich auch für Betreiber: Wer ein verbotenes System nutzt, haftet selbst, nicht nur der Hersteller.

Emotionserkennung am Arbeitsplatz: das relevanteste Verbot

Verboten ist KI, die aus biometrischen Daten wie Mimik, Stimme oder Körperhaltung auf die Emotionen von Beschäftigten schließt. Ein Beispiel: Eine Callcenter-Software, die die Stimmlage deiner Mitarbeiter auswertet und der Teamleitung ein „Stress-Dashboard" anzeigt, fällt unter das Verbot. Dasselbe gilt für Videointerview-Tools, die die Mimik von Bewerbern analysieren, denn Bewerber zählen zum Arbeitskontext.

Erlaubt bleibt die Ausnahme für Medizin und Sicherheit, etwa ein System, das Ermüdung bei Kranführern erkennt. Erlaubt bleibt auch die textbasierte Sentiment-Analyse von Kundenanfragen, denn sie verarbeitet keine biometrischen Daten von Beschäftigten. Die Grenze verläuft bei Biometrie plus Arbeitskontext.

Warum dieses Verbot das relevanteste ist: Emotionserkennung steckt als Zusatzfunktion in Standardsoftware aus drei Kategorien, in Callcenter-Lösungen, Videokonferenz-Tools und HR-Plattformen. Sie wird selten als „Emotionserkennung" beworben, sondern als „Gesprächsqualität", „Engagement-Score" oder „Wellbeing-Monitoring". Beim Software-Einkauf gehört deshalb die Frage ins Pflichtenheft, ob das Werkzeug Mimik oder Stimme von Beschäftigten auswertet.

Manipulative Techniken: die Grenze für Verkaufs-KI

Verboten ist KI, die Menschen unterschwellig oder täuschend so beeinflusst, dass ihnen erheblicher Schaden entsteht. Normale Werbung und Überzeugungsarbeit bleiben erlaubt, auch mit KI. Ein Verkaufs-Chatbot darf Vorteile betonen und Einwände behandeln.

Kritisch wird es bei Täuschung mit Schadensfolge. Stell dir einen Chatbot vor, der sich als unabhängiger Berater ausgibt, in Wahrheit aber verdeckt Abschlüsse maximiert und dabei gezielt Zeitdruck und Falschinformationen einsetzt. Ein solches Design kann unter das Verbot fallen. Für die Praxis heißt das: Verkaufs-KI transparent gestalten, Leitplanken definieren und auf Dark Patterns verzichten.

Ausnutzung von Schwachstellen: Schutz für verletzliche Gruppen

Verboten ist KI, die Schwachstellen aufgrund von Alter, Behinderung oder sozialer und wirtschaftlicher Lage ausnutzt, um Verhalten mit Schadensfolge zu verändern. Ein Beispiel: ein KI-System, das gezielt überforderte ältere Menschen mit aggressiven Vertragsangeboten anspricht, weil sie Kündigungsfristen seltener prüfen.

Für seriöse Betriebe ist dieses Verbot selten ein Problem, aber es setzt eine klare Grenze für Targeting-Strategien im Marketing: Zielgruppen nach Bedürfnis ja, nach Verletzlichkeit nein.

Social Scoring: sachfremde Bewertung ist tabu

Verboten ist die Bewertung von Personen anhand ihres Sozialverhaltens oder persönlicher Merkmale, wenn die Bewertung in einem sachfremden Zusammenhang zu einer ungerechtfertigten Schlechterstellung führt. Ein Beispiel: Ein Betrieb lässt eine KI das Social-Media-Verhalten von Kunden auswerten und gewährt danach unterschiedliche Zahlungsziele. Das Zahlungsziel hat mit dem Social-Media-Verhalten nichts zu tun, genau diese Sachfremdheit macht das Scoring verboten.

Klassische Bonitätsprüfung anhand von Zahlungshistorie und Finanzdaten ist kein Social Scoring in diesem Sinne, sie bewertet sachbezogen. Hier gelten weiterhin die Grenzen der DSGVO.

Zeitplan und Bußgelder: das gilt wann

Die KI-Verordnung tritt gestaffelt in Kraft. Für die Verbote ist der Zeitplan bereits Geschichte, sie gelten ohne Übergangsfrist.

Die Bußgelder für verbotene Praktiken bilden die höchste Stufe der Verordnung: bis zu 35 Millionen Euro oder 7 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 3 KI-VO). Zum Vergleich: Die DSGVO endet bei 20 Millionen Euro oder 4 Prozent (Art. 83 Abs. 5 DSGVO).

Orientierung bietet neben dem Verordnungstext eine offizielle Quelle: Die EU-Kommission hat im Februar 2025 Leitlinien zu den verbotenen Praktiken veröffentlicht, mit Auslegungshilfen und Beispielen zu jedem Tatbestand. Bei Grenzfällen lohnt der Blick hinein, bevor du eine Funktion abschaltest oder freigibst.

Wer die Verbote in Deutschland durchsetzt

Die Marktüberwachung organisieren die Mitgliedstaaten selbst. In Deutschland soll die Bundesnetzagentur nach den Plänen der Bundesregierung die zentrale Rolle bei der Aufsicht übernehmen, sie informiert auf ihrer Website bereits über die verbotenen Praktiken. Für Unternehmen ändert die Behördenfrage allerdings nichts am Pflichtenstand: Die Verbote gelten unmittelbar aus der EU-Verordnung, unabhängig davon, wie weit der nationale Aufbau der Aufsicht ist.

Daneben bleibt die DSGVO vollständig anwendbar. Die beiden Regelwerke ergänzen sich: Die KI-Verordnung regelt, welche KI-Systeme auf den Markt dürfen und wie sie betrieben werden. Die DSGVO regelt, was mit personenbezogenen Daten geschehen darf. Eine KI kann also DSGVO-konform betrieben werden und trotzdem gegen Art. 5 KI-VO verstoßen, und umgekehrt. Wer prüft, prüft beides.

Verboten, Hochrisiko oder erlaubt: die Risikopyramide

Die Verbote sind nur die Spitze der Pyramide. Darunter ordnet die KI-Verordnung Systeme in drei weitere Stufen, jede mit eigenen Pflichten.

Die Stufen bauen aufeinander auf und beantworten unterschiedliche Fragen. Verboten heißt: niemals einsetzen. Hochrisiko heißt: einsetzen mit dokumentierten Pflichten. Begrenztes Risiko heißt: einsetzen mit Kennzeichnung. Minimales Risiko heißt: einsetzen ohne KI-VO-Sonderpflichten.

Die Einstufung nimmt niemand für dich vor, sie ergibt sich aus Zweck und Funktionsweise des Systems. Deshalb gehört zu jedem KI-Projekt die Frage an den Anfang: In welche Stufe fällt diese Anwendung? Was das konkret für die Personalarbeit bedeutet, zeigt unser Leitfaden zu KI im Recruiting, dem häufigsten Hochrisiko-Fall im Mittelstand. Und unabhängig von der Stufe gilt seit Februar 2025 für alle Unternehmen, die KI einsetzen, die Schulungspflicht nach Art. 4 KI-VO: Beschäftigte müssen für den kompetenten Umgang mit den eingesetzten Systemen geschult sein.

In 5 Schritten prüfst du deine KI-Systeme

Die Prüfung auf verbotene Praktiken ist kein Großprojekt. Für einen typischen Mittelständler mit einer Handvoll KI-Anwendungen reicht ein strukturierter Durchgang.

Zwei Hinweise zur Einordnung: Erstens ersetzt dieser Artikel keine Rechtsberatung im Einzelfall, bei Grenzfällen gehört ein Fachanwalt an den Tisch. Zweitens ist die Prüfung kein einmaliges Projekt. Software-Updates bringen neue KI-Funktionen mit, und jede neue Funktion gehört einmal durch die fünf Schritte.

Zur Verantwortung: Die Prüfung liegt bei der Geschäftsführung, nicht bei der IT allein. Die IT kann beantworten, welche Funktionen aktiv sind. Ob eine Funktion eine verbotene Praktik darstellt, ist eine unternehmerische und rechtliche Bewertung. Bewährt hat sich ein Dreieck aus Geschäftsführung, IT-Verantwortlichem und, bei Grenzfällen, externem Rechtsrat. In Betrieben mit Betriebsrat gehört das Gremium ohnehin an den Tisch, sobald Systeme das Verhalten von Beschäftigten berühren.

Was erlaubt bleibt: die meisten KMU-Anwendungen

Nach all den Verboten der wichtigste Teil: Die KI-Anwendungen, mit denen Mittelständler tatsächlich Zeit sparen, bleiben erlaubt. Dazu zählen:

• Text- und Angebotserstellung mit Sprachmodellen: minimales Risiko, keine besonderen Pflichten nach der KI-VO.
• Interne Wissensdatenbanken und Dokumentensuche: minimales Risiko, die DSGVO bleibt der Maßstab.
• Kunden-Chatbots und Telefonassistenten: erlaubt mit Transparenzpflicht, Anrufer und Nutzer müssen den KI-Einsatz erkennen können. Ein KI-Telefonassistent, der sich zu Gesprächsbeginn als digitaler Assistent vorstellt, erfüllt diese Pflicht bereits.
• Automatisierung von Routineprozessen: minimales Risiko, solange keine Entscheidungen über Menschen automatisiert werden.
• Bildgenerierung für Marketing: erlaubt, KI-generierte Inhalte sind ab August 2026 als solche zu kennzeichnen.

Die Verbotsliste ist bewusst eng gefasst: Sie zielt auf Praktiken, die Grundrechte verletzen, nicht auf Effizienzwerkzeuge. Wer KI einsetzt, um sein Team von Routine zu entlasten, bewegt sich fast immer in der untersten Risikostufe. Wie du den Einsatz insgesamt datenschutzkonform aufstellst, zeigt unser Leitfaden zur DSGVO-konformen KI-Nutzung.

Aus den knapp 20 Jahren Digital-Erfahrung von Gründer Jannis Gerlinger lässt sich dazu ein Muster festhalten: Regulierung trifft selten die, die Werkzeuge produktiv einsetzen. Sie trifft die, die nicht wissen, was ihre Werkzeuge tun. Das KI-Inventar aus dem Prüfabschnitt ist deshalb kein Bürokratie-Akt, sondern die günstigste Versicherung gegen beides: Bußgelder und böse Überraschungen beim nächsten Software-Update.

Fazit: Verbote kennen, Inventar prüfen, gelassen weitermachen

Art. 5 KI-VO verbietet acht klar umrissene Praktiken, von denen vier den Mittelstand berühren können: Emotionserkennung am Arbeitsplatz, manipulative Techniken, die Ausnutzung von Schwachstellen und Social Scoring. Die Verbote gelten seit Februar 2025, die Bußgelder sind seit August 2025 durchsetzbar und treffen auch reine Anwender.

Der pragmatische Umgang: einmal das KI-Inventar durch die fünf Prüfschritte schicken, kritische Funktionen abschalten oder anpassen, das Ergebnis dokumentieren. Danach gilt die Aufmerksamkeit wieder dem, was KI im Betrieb leisten soll: Zeit sparen und das Team entlasten, mit Anwendungen, die die Verordnung ausdrücklich zulässt.