TÜV-zertifiziert in Verkaufspsychologie
KI-Ready-Check buchen

Start / KI-Lexikon / Halluzination

Halluzination

Definition

Wenn eine KI falsche oder erfundene Informationen als Fakten ausgibt.

Was Halluzination genau ist

KI-Halluzinationen treten auf, wenn ein Sprachmodell Informationen generiert, die plausibel klingen, aber faktisch falsch sind. Das Modell 'erfindet' Fakten, Zitate oder Daten, weil es auf Wahrscheinlichkeit basiert und nicht auf Wahrheit. Halluzinationen sind ein bekanntes Problem aller LLMs. Sie entstehen, weil Sprachmodelle keine echte Wissensdatenbank haben, sondern Texte auf Basis statistischer Muster erzeugen. Besonders häufig treten Halluzinationen bei Nischenthemen, Zahlenangaben und konkreten Quellenverweisen auf. Die Rate variiert je nach Modell und Aufgabe zwischen 3 und 27 Prozent.

So funktioniert es

Sprachmodelle generieren Text Wort für Wort, wobei sie jeweils das wahrscheinlichste nächste Wort vorhersagen. Wenn das Modell zu einem Thema keine verlässlichen Informationen in seinen Trainingsdaten hatte, extrapoliert es aus verwandten Mustern und erzeugt plausibel klingende, aber falsche Inhalte. Das Modell hat kein Konzept von 'wahr' oder 'falsch', sondern nur von 'wahrscheinlich' oder 'unwahrscheinlich'. Verschiedene Gegenmaßnahmen reduzieren Halluzinationen: RAG bindet verifizierte Daten ein, niedrigere Temperature-Einstellungen machen die Ausgabe konservativer, und Chain-of-Thought-Prompting verbessert die logische Kohärenz.

Was das für dein Unternehmen bedeutet

Halluzinationen sind das größte Risiko bei unkontrollierter KI-Nutzung. Gegenmaßnahmen: RAG (KI mit echten Firmendaten verknüpfen), menschliche Überprüfung bei kritischen Entscheidungen und Quellenangaben aktivieren. Lokale Systeme mit Wissensbasis reduzieren das Risiko erheblich. Für den Mittelstand besonders kritisch: Falsche Preisangaben, erfundene Vertragsbedingungen oder fehlerhafte rechtliche Aussagen können reale Schäden verursachen. Der wichtigste Schutz ist ein Bewusstsein für das Problem bei allen Mitarbeitern, die KI nutzen.

Beispiele aus der Praxis

  • KI zitiert eine nicht existierende Studie
  • Chatbot nennt falschen Preis oder falsche Konditionen
  • Zusammenfassung enthält Fakten, die im Originaldokument nicht stehen
  • KI erfindet plausibel klingende, aber falsche Rechtsnormen
  • Generierte Produktbeschreibung enthält nicht existierende technische Spezifikationen

Vorteile und Grenzen

Das spricht dafür

  • Bewusstsein für Halluzinationen führt zu besserem, kritischerem Umgang mit KI
  • Treibt die Entwicklung von Verifizierungssystemen und RAG-Technologien voran
  • Menschliche Expertise wird als Kontrolle unverzichtbar und aufgewertet
  • Fördert den Aufbau strukturierter Wissensdatenbanken im Unternehmen

Das solltest du einplanen

  • Halluzinationen sind nicht immer sofort erkennbar, besonders bei Nischenthemen
  • Können Vertrauen in KI-Systeme nachhaltig beschädigen
  • Erfordern immer eine menschliche Prüfung, was den Automatisierungsgrad begrenzt
  • Kein Modell ist aktuell halluzinationsfrei, das Problem lässt sich nur reduzieren, nicht eliminieren

Quellen

Verwandte Begriffe.

Diese Einträge gehören technisch zum selben Thema und erklären die Bausteine dahinter.

Grundlagen

Large Language Model (LLM)

Große Sprachmodelle, die menschliche Sprache verstehen und generieren.

Definition lesen Technik

RAG (Retrieval-Augmented Generation)

KI-Technik, die eigene Unternehmensdaten in die Antwort einbezieht.

Definition lesen Technik

Prompt

Die Texteingabe oder Anweisung, die an ein KI-System gestellt wird.

Definition lesen Recht und Sicherheit

Guardrails

Sicherheitsmechanismen, die KI-Systeme innerhalb definierter Grenzen halten.

Definition lesen

Alle 91 Begriffe ansehen

Häufige Fragen zu Halluzination.

Deine Frage fehlt? Schreib uns, wir antworten innerhalb eines Werktags.

Wie erkenne ich, ob eine KI halluziniert?

Warnzeichen sind: Sehr spezifische Zahlen oder Statistiken ohne Quellenangabe, Verweise auf konkrete Studien oder Personen, die sich nicht verifizieren lassen, und Aussagen, die 'zu perfekt' zum Kontext passen. Als Faustregel: Je spezifischer und überraschender eine KI-Aussage ist, desto wahrscheinlicher eine Halluzination.

Welche Modelle halluzinieren am wenigsten?

Größere Modelle wie GPT-4o und Claude halluzinieren weniger als kleinere Modelle. RAG-Systeme, die auf verifizierte Daten zugreifen, reduzieren das Problem zusätzlich. Allerdings halluziniert kein Modell gar nicht. Die Halluzinationsrate hängt stark von der Aufgabe ab: Bei Zusammenfassungen liegt sie niedriger als bei freier Textgenerierung.

Kann RAG Halluzinationen komplett verhindern?

Nein, aber RAG reduziert sie drastisch, typischerweise um 60-80 %. Die KI kann immer noch Informationen aus dem Kontext falsch interpretieren oder kombinieren. Deshalb ist auch bei RAG-Systemen eine menschliche Endkontrolle bei kritischen Anwendungen notwendig.

Wie schütze ich mein Unternehmen vor Schäden durch Halluzinationen?

Drei Maßnahmen: Erstens, setze RAG ein, damit die KI auf geprüfte Firmendaten zugreift. Zweitens, implementiere Human-in-the-Loop bei allen kundenorientierten oder rechtlich relevanten Anwendungen. Drittens, schule deine Mitarbeiter, dass jede KI-Ausgabe eine Hypothese ist, die geprüft werden muss.

Werden Halluzinationen in Zukunft verschwinden?

Wahrscheinlich nicht vollständig. Halluzinationen sind ein strukturelles Merkmal probabilistischer Sprachmodelle. Die Raten werden mit besseren Modellen und Techniken weiter sinken, aber eine Nullquote ist bei generativen Systemen nicht realistisch. Der Fokus liegt auf Erkennung und Reduktion, nicht auf Elimination.

Wie relevant ist Halluzination für dich?

Im KI-Ready-Check schauen wir gemeinsam auf deine Abläufe und finden heraus, wo KI bei dir wirklich Zeit spart. 45 Minuten, kostenlos, ohne Folien.

KI-Ready-Check buchen