Das Wichtigste in Kürze
- Eine KI-Agentur passt, wenn 7 Kriterien zusammenpassen: Referenzen, Teamzusammensetzung, Firmensitz, Auftragsverarbeitungsvertrag, Kenntnis der KI-Verordnung, Verantwortung nach dem Start und eine nachvollziehbare Preislogik
- Laut Gartner scheitern 20 Prozent der KI-Projekte vollständig, nur 28 Prozent erreichen die erwarteten Ergebnisse (Umfrage unter 782 IT-Verantwortlichen, April 2026)
- Die MIT-NANDA-Studie 'The GenAI Divide' fand bei 95 Prozent der untersuchten KI-Pilotprojekte keine messbare Wirkung auf Umsatz oder Gewinn (August 2025)
- 4 Anbietertypen kommen infrage: Freelancer, spezialisierte KI-Agentur, IT-Systemhaus und Unternehmensberatung. Tagessätze reichen von rund 760 bis 2.550 Euro (Freelancer-Kompass 2026, BDU, erhoben 2022)
- Eine Agentur lohnt sich erst, wenn ein klar umrissenes Problem vorliegt und Standardsoftware es nicht löst. Fehlt beides, bringt ein kostenloses Analysegespräch oft mehr als eine Beauftragung
Die richtige KI-Agentur erkennst du an 7 Kriterien:
- Überprüfbare Referenzen
- Die tatsächliche Teamzusammensetzung
- Firmensitz und Datenstandort
- Bereitschaft zum Auftragsverarbeitungsvertrag
- Kenntnis der KI-Verordnung
- Klare Verantwortung nach dem Start
- Eine nachvollziehbare Preislogik
Erfüllt ein Anbieter alle sieben, sinkt das Risiko eines gescheiterten Projekts deutlich. Dieser Leitfaden ordnet die Kriterien und zeigt die vier Anbietertypen im Markt. Er nennt auch die Fälle, in denen eine Agentur die falsche Antwort ist.
Die Suche nach einem passenden Anbieter wirkt für viele Geschäftsführer unübersichtlich. Der Markt reicht vom einzelnen Freelancer über spezialisierte Boutique-Agenturen bis zu großen Unternehmensberatungen. Jeder dieser Anbieter nennt sich am Ende "KI-Agentur", obwohl sich Arbeitsweise, Verantwortung und Preis stark unterscheiden. Die folgenden Kriterien machen diese Unterschiede vor der Beauftragung sichtbar, statt sie erst im laufenden Projekt zu entdecken.
4 Anbietertypen kommen für ein KI-Projekt infrage
Vier Anbietertypen teilen sich den Markt für KI-Vorhaben im Mittelstand: Freelancer, spezialisierte KI-Agenturen, IT-Systemhäuser und Unternehmensberatungen. Jeder Typ passt zu einer anderen Ausgangslage.
Ein Freelancer arbeitet allein, kennt sein Fachgebiet meist sehr genau und ist günstiger. Er trägt aber im Urlaubs- oder Krankheitsfall kein Vertretungsrisiko ab. Eine spezialisierte KI-Agentur setzt ein kleines, eingespieltes Team auf eine klar umrissene Aufgabe wie einen KI-Agenten oder eine Wissensdatenbank an. Sie übernimmt außerdem Projektmanagement und Vertretung. Ein IT-Systemhaus bringt breitere Infrastruktur-Erfahrung mit, etwa für Server, Netzwerk und bestehende Fachverfahren. KI ist dort häufig ein Zusatzangebot neben dem Kerngeschäft. Eine Unternehmensberatung liefert vor allem Strategie und Roadmap. Die technische Umsetzung übernimmt danach oft ein anderer Anbieter.
| Anbietertyp | Stärke | Grenze | Passt bei |
|---|---|---|---|
| Freelancer | Tiefes Fachwissen, direkter Kontakt | Kein Vertretungsrisiko abgedeckt | Einzelnes, klar umrissenes Projekt |
| Spezialisierte KI-Agentur | Eingespieltes Team, Umsetzung im Haus | Kleineres Team, begrenzte Kapazität | Konkreter KI-Anwendungsfall mit laufendem Support |
| IT-Systemhaus | Infrastruktur- und Systemintegration | KI oft Zusatzangebot, nicht Kerngeschäft | KI-Vorhaben eng verzahnt mit bestehender IT |
| Unternehmensberatung | Strategie, Roadmap, Change-Management | Umsetzung meist nicht im eigenen Haus | Grundsatzentscheidung vor der technischen Wahl |
Zum Vergleichen seitlich wischen
Für die technische Umsetzung eines einzelnen Anwendungsfalls passt meist eine spezialisierte Agentur oder ein erfahrener Freelancer. Ein Beispiel dafür ist ein KI-Agent oder eine Automatisierung mit n8n. Für eine Grundsatzfrage wie die KI-Strategie eines ganzen Unternehmens ist eine Beratung der richtige erste Schritt. Ein technischer Anbieter kommt erst danach ins Spiel. Diese Reihenfolge lohnt sich auch dann, wenn am Ende ohnehin ein technischer Anbieter beauftragt wird. Eine vorab geklärte Strategie verhindert, dass die technische Umsetzung am Ende das falsche Problem löst.
7 Kriterien entscheiden, ob eine KI-Agentur zu dir passt
Die folgenden sieben Kriterien gelten unabhängig vom Anbietertyp. Sie trennen einen Anbieter, der ein KI-Projekt verlässlich zu Ende bringt, von einem, der nach der Unterschrift Probleme verursacht.
Referenzen mit überprüfbaren Ergebnissen, nicht nur Logos
Eine Liste bekannter Kundenlogos sagt nichts über das tatsächliche Ergebnis aus. Frag konkret nach: Welches Problem wurde gelöst, mit welcher Architektur, und welche Zahl hat sich dadurch nachweislich verändert? Ein seriöser Anbieter nennt eine Ansprechperson beim Kunden oder verweist auf eine öffentlich dokumentierte Fallstudie, statt nur einen Namen zu zeigen. Warnsignal: Der Anbieter spricht nur von "zahlreichen erfolgreichen Projekten", kann aber auf Nachfrage kein einziges konkret benennen.
Teamzusammensetzung: eigene Entwickler oder reine Vermittlung
Manche Anbieter entwickeln selbst, andere vermitteln nur an wechselnde Freelancer und verdienen an der Differenz. Frag direkt: Wer sitzt konkret an deinem Projekt, und bleibt diese Person über die gesamte Laufzeit zuständig? Ein Wechsel mitten im Projekt kostet in der Regel Zeit und Qualität. Der Grund: Wissen über dein Unternehmen geht verloren und muss neu aufgebaut werden.
Firmensitz und Datenstandort in der EU
Firmensitz und Datenstandort sind zwei getrennte Fragen. Der Sitz entscheidet, welches Recht gilt und wie leicht sich Ansprüche durchsetzen lassen. Der Datenstandort entscheidet, wo deine Unternehmensdaten tatsächlich liegen. Läuft die Lösung über einen Cloud-Dienst außerhalb der EU, lohnt sich ein genauer Blick auf Alternativen wie lokale KI oder einen EU-Anbieter. Frag deshalb nicht nur nach dem Firmensitz, sondern auch danach, in welchem Rechenzentrum die Daten konkret verarbeitet werden.
Bereitschaft zum Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO
Sobald eine Agentur Zugriff auf personenbezogene Daten bekommt, etwa Kundendaten aus dem CRM oder Bewerberunterlagen, ist ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO Pflicht. Kennt ein Anbieter den Begriff nicht oder weicht der Frage aus, ist das für sich genommen schon ein Ausschlussgrund. Ein seriöser Anbieter legt dir den Vertragsentwurf von sich aus vor, statt erst nach mehrfacher Nachfrage zu reagieren.
Wissen über die KI-Verordnung und die Schulungspflicht
Seit Februar 2025 gilt Artikel 4 der KI-Verordnung: Wer KI-Systeme einsetzt, muss sein Personal im Umgang damit schulen. Ein Anbieter, der dieses Thema von sich aus anspricht, zeigt, dass er regulatorische Pflichten mitdenkt statt nur Technik zu liefern. Details zu den konkreten Anforderungen stehen im Leitfaden KI-Schulungspflicht nach Artikel 4. Fragst du von dir aus danach und bekommst nur ein Schulterzucken zurück, bleibt die Schulungspflicht an dir hängen, nicht am Anbieter.
Klare Verantwortung nach dem Start: Wartung und Übergabe
Ein Projekt endet nicht mit dem Go-Live. Kläre vorab schriftlich drei Punkte:
- Wer Updates einspielt
- Wer reagiert, wenn eine angebundene Schnittstelle sich ändert
- Ob du die fertige Lösung dokumentiert und exportierbar bekommst
Ohne diese Zusage entsteht ein Vendor-Lock-in: Die Lösung läuft nur so lange zuverlässig, wie der ursprüngliche Anbieter verfügbar bleibt. Frag konkret nach einer Reaktionszeit bei Störungen. Frag auch, ob diese Zeit im Vertrag steht, nicht nur im Verkaufsgespräch.
Nachvollziehbare Preislogik statt vager Spannen
Ein seriöses Angebot erklärt, wie sich der Preis zusammensetzt: Festpreis pro Projektphase, Tagessatz mit geschätztem Aufwand, oder laufende Betreuung als Retainer. Eine Spanne wie "zwischen 5.000 und 50.000 Euro, kommt darauf an" ohne weitere Erklärung ist kein Angebot, sondern eine Ausrede. Ein nachvollziehbares Angebot nennt stattdessen, wie viele Personentage für welche Projektphase eingeplant sind.
- Referenzen mit konkretem Ergebnis statt nur Logo geprüft
- Zuständige Person für die gesamte Projektlaufzeit benannt
- Datenstandort und Firmensitz geklärt
- Auftragsverarbeitungsvertrag angeboten oder zugesagt
- KI-Verordnung und Schulungspflicht angesprochen
- Wartung und Übergabe schriftlich geregelt
- Preislogik nachvollziehbar erklärt, nicht nur eine Spanne genannt
Unsicher, ob ein Anbieter zu deinem Vorhaben passt, oder welche der sieben Fragen für dein Projekt am wichtigsten ist? Im kostenlosen Analysegespräch schauen wir gemeinsam auf deine Ausgangslage und klären, welche Kriterien bei dir den Ausschlag geben sollten.
Analysegespräch buchenSpezialisierte KI-Agenturen decken enger umrissene Aufgaben ab
Neben den vier allgemeinen Anbietertypen gibt es Spezialisten für einzelne, enger umrissene Aufgaben. Steht die Aufgabe schon fest, lohnt sich oft ein Blick direkt auf den passenden Spezialisten, statt erneut bei null anzufangen. 6 Aufgaben haben jeweils einen eigenen Spezialisten-Typ:
- Workflow-Automatisierung mit fertigen Konnektoren zwischen bestehenden Systemen: eine n8n-Agentur
- Ein KI-System, das eigene Firmendokumente durchsucht und beantwortet: eine RAG-System-Beratung
- Ein KI-Agent, der mehrere externe Werkzeuge und Datenquellen einheitlich ansprechen muss: eine MCP-Integration-Agentur
- Ein KI-System komplett ohne Cloud-Anbindung auf eigener Hardware: eine Übersicht über lokale KI-Anbieter
- Die Datenschutzfrage steht im Vordergrund, die Technik noch nicht: der Leitfaden zu DSGVO-konformer KI-Beratung
- Ein eigenständig handelnder KI-Agent, der Entscheidungen innerhalb vorgegebener Grenzen selbst trifft: der Leitfaden KI-Agenten entwickeln lassen
Die sieben Kriterien aus diesem Leitfaden gelten für jeden dieser Spezialisten genauso wie für einen Generalisten. Ein Spezialist für n8n-Workflows braucht ebenso einen Auftragsverarbeitungsvertrag wie eine breit aufgestellte Unternehmensberatung.
Wer im Unternehmen die Auswahl treffen sollte
Die Auswahl einer KI-Agentur betrifft meist mehr als eine Person. In einem kleinen Unternehmen reicht oft die Geschäftsführung allein. Sobald mehrere Abteilungen betroffen sind, gehören drei Rollen an den Tisch:
- Eine Person mit Entscheidungsbefugnis über das Budget
- Eine Person mit Kenntnis der betroffenen Prozesse im Alltag
- Eine Person für die Datenschutzfragen, etwa ein betrieblicher Datenschutzbeauftragter, sofern vorhanden
Fehlt die Prozesskenntnis am Tisch, entstehen Lösungen, die technisch funktionieren, aber am Arbeitsalltag vorbeigehen. Fehlt die Datenschutzperspektive, fällt eine fehlende Zusage zum Auftragsverarbeitungsvertrag erst auf, wenn es zu spät ist. Eine Auswahl allein auf Managementebene, ohne Rückkopplung in die Fachabteilung, zählt zu den häufigsten Gründen für Fehlkäufe. Die technisch einwandfreie Lösung bleibt dann im Alltag ungenutzt.
KI-Projekte scheitern selten an der Technik
Die Kriterien oben wirken streng, weil die Ausfallquote bei KI-Projekten hoch ist, und zwar unabhängig von der gewählten Technologie. Eine Gartner-Umfrage unter 782 IT-Verantwortlichen für Infrastruktur und Betrieb liefert dazu Zahlen (erhoben November und Dezember 2025, veröffentlicht 7. April 2026). 20 Prozent der KI-Projekte scheitern demnach vollständig, nur 28 Prozent erreichen die erwarteten Ergebnisse. Als häufigste Ursachen nannten die Befragten fehlende Fähigkeiten im Team und unzureichende Datenqualität, nicht die eingesetzte Technologie selbst.
Die MIT-NANDA-Studie "The GenAI Divide: State of AI in Business 2025" kommt zu einem ähnlichen Befund (August 2025). Die Studie wertete 150 Interviews, eine Befragung von 350 Mitarbeitenden und eine Analyse von 300 öffentlich dokumentierten KI-Einführungen aus. Bei 95 Prozent der untersuchten Pilotprojekte zeigte sich keine messbare Wirkung auf Umsatz oder Gewinn. Als Hauptgrund nennt die Studie eine mangelhafte Einbindung in bestehende Abläufe, nicht die Qualität der Modelle.
der KI-Projekte scheitern laut Gartner vollständig
Gartner-Umfrage unter 782 IT-Verantwortlichen, April 2026der untersuchten GenAI-Pilotprojekte ohne messbare Wirkung auf Umsatz oder Gewinn
MIT NANDA, The GenAI Divide, August 2025Beide Studien stammen aus großen Unternehmen, lassen sich also nicht eins zu eins auf ein KMU-Projekt übertragen. Der Kern der Befunde bleibt aber auch im Mittelstand gültig. Ein KI-Projekt scheitert eher an Governance, Datenqualität und fehlender Einbindung in den Alltag als an der gewählten KI selbst. Genau diese Punkte sollen die sieben Kriterien oben bei der Anbieterwahl absichern.
So läuft eine gute Agenturauswahl in der Praxis ab
Eine strukturierte Auswahl läuft in fünf Schritten ab, von der eigenen Bedarfsklärung bis zum unterschriebenen Vertrag.
Welches Problem soll gelöst werden, welche Systeme sind beteiligt, welches Ergebnis zählt als Erfolg?
Anbieter nach Spezialisierung auf den eigenen Anwendungsfall filtern, nicht nach allgemeiner KI-Erfahrung.
Referenzen, Team, Datenstandort, Auftragsverarbeitungsvertrag, KI-Verordnung, Verantwortung nach dem Start, Preislogik.
Ein kleiner, klar abgegrenzter erster Schritt zeigt die Zusammenarbeit, bevor das ganze Budget gebunden ist.
Wartung, Reaktionszeiten und Übergabe stehen im Vertrag, nicht nur im Gespräch.
Für die ersten drei Schritte solltest du ein bis zwei Wochen einplanen. Wie schnell es geht, hängt davon ab, wie rasch sich Erstgespräche mit den Anbietern auf der Longlist organisieren lassen. Ein Pilotprojekt dauert je nach Umfang zwei bis sechs Wochen. Wer diese Reihenfolge überspringt und direkt zum fünften Schritt wechselt, verliert genau die Informationen, die ein Pilotprojekt liefert. Er weiß am Ende nicht, ob die Zusammenarbeit im Alltag tatsächlich funktioniert.
Wann du keine KI-Agentur brauchst
Eine KI-Agentur ist nicht in jedem Fall die richtige Antwort. 3 Situationen sprechen dagegen:
- Eine bestehende Standardsoftware löst die Aufgabe bereits, etwa weil dein CRM oder deine Buchhaltungssoftware eine passende KI-Funktion schon mitbringt. Eine zusätzliche Beauftragung würde hier nur eine Lösung bauen, die es in der genutzten Software bereits gibt.
- Im Haus gibt es bereits jemanden mit den nötigen Fähigkeiten und ausreichend Zeit, um die Aufgabe selbst umzusetzen. In diesem Fall lohnt sich höchstens eine punktuelle Beratungsstunde, um Fehler zu vermeiden, aber keine vollständige Beauftragung.
- Ein konkretes Problem fehlt noch, vorhanden ist nur ein allgemeines Interesse an KI. Das ist der häufigste Fall. Eine strukturierte Bestandsaufnahme der eigenen Prozesse bringt hier mehr als die Beauftragung eines Anbieters, weil erst danach klar wird, welcher Anbietertyp überhaupt passt.
In allen drei Fällen gilt derselbe Grundsatz. Eine Agentur zu beauftragen, bevor das Problem klar umrissen ist, verschiebt die Arbeit nur auf den Anbieter, statt sie zu sparen. Das Ergebnis ist dann oft eine technisch funktionierende Lösung für die falsche Frage.
Eine Orientierung für den dritten Fall liefert eine KI-Readiness-Einschätzung. Sie zeigt, ob ein Unternehmen organisatorisch überhaupt so weit ist, dass eine Beauftragung sinnvoll wird. Wer stattdessen gleich eine fertige Automatisierung oder einen eigenen KI-Agenten bauen lassen will, findet den passenden Ablauf im Leitfaden KI-Agenten entwickeln lassen.
Was eine KI-Agentur kostet
Die Tagessätze unterscheiden sich stark nach Anbietertyp. Freelancer verlangen laut Freelancer-Kompass 2026 von freelancermap.de im Median rund 95 Euro pro Stunde, umgerechnet etwa 760 Euro pro Acht-Stunden-Tag. Agentur-Spezialisten mit KI-Skills liegen laut Metrics-Benchmark (Datenstand März 2026) bei rund 1.498 Euro pro Tag. Unternehmensberatungen bewegen sich laut BDU-Honorarstudie (Honorare im Consulting, erhoben 2022) zwischen 1.350 Euro für Junior-Consultants und 2.550 Euro für Partner.
| Anbietertyp | Tagessatz 2026 | Quelle |
|---|---|---|
| Freelancer (Median) | rund 760 € | Freelancer-Kompass 2026, freelancermap.de |
| Agentur-Spezialist (KI) | rund 1.498 € | Metrics-Benchmark, März 2026 |
| Junior-Consultant (Unternehmensberatung) | rund 1.350 € | BDU, Honorare im Consulting, erhoben 2022 |
| Partner (Unternehmensberatung) | rund 2.550 € | BDU, Honorare im Consulting, erhoben 2022 |
Zum Vergleichen seitlich wischen
Diese Tagessätze sind eine Orientierung, kein Festpreis für ein konkretes Projekt. Den vollständigen Kostenüberblick nach Projektumfang und Anbieterform zeigt der Leitfaden Was kostet eine KI-Beratung?. Ein Teil der Kosten lässt sich unter bestimmten Voraussetzungen über Förderprogramme zurückholen, einen Überblick dazu gibt der Ratgeber KI-Förderung für Unternehmen.
Du hast die sieben Kriterien geprüft und bist noch unsicher, ob sich eine Beauftragung für dein Vorhaben überhaupt lohnt? Im kostenlosen Analysegespräch ordnen wir das gemeinsam ein.
Analysegespräch buchenHäufige Fehler bei der Anbieterwahl
4 Fehler tauchen bei der Wahl einer KI-Agentur immer wieder auf, unabhängig von Branche und Projektgröße:
- Die Entscheidung fällt allein nach Preis, ohne die sieben Kriterien oben zu prüfen. Ein günstiges Angebot ohne Auftragsverarbeitungsvertrag oder ohne geklärte Wartung wird am Ende teurer als ein teureres mit klaren Zusagen.
- Ein Pilotprojekt wird übersprungen, und das gesamte Budget fließt direkt in ein großes Vorhaben, bevor die Zusammenarbeit sich im Kleinen bewährt hat.
- Niemand im eigenen Haus wird für das Projekt verantwortlich gemacht, sodass Entscheidungen während der Laufzeit liegen bleiben.
- Die Erwartung an das Ergebnis bleibt vage, sodass am Ende niemand sagen kann, ob das Projekt erfolgreich war. Ein Erfolgskriterium gehört deshalb schon in die Ausschreibung, nicht erst in die Abnahme.
Eine kurze Einordnung zur Autorperspektive: Ich bin Jannis Gerlinger, Geschäftsführer der JANGER GmbH. Ich habe eine TÜV Rheinland geprüfte Qualifikation in Verkaufspsychologie. Seit 2007 bin ich in der Digitalbranche, von UX und E-Commerce bis heute KI im Mittelstand. Für die Entwicklung eigener KI-Lösungen und Agenten setzen wir genau die Kriterien aus diesem Leitfaden selbst um, dokumentiert in KI-Lösungen.



