Wenn eine KI falsche oder erfundene Informationen als Fakten ausgibt.
KI-Halluzinationen treten auf, wenn ein Sprachmodell Informationen generiert, die plausibel klingen, aber faktisch falsch sind. Das Modell 'erfindet' Fakten, Zitate oder Daten, weil es auf Wahrscheinlichkeit basiert und nicht auf Wahrheit. Halluzinationen sind ein bekanntes Problem aller LLMs. Sie entstehen, weil Sprachmodelle keine echte Wissensdatenbank haben, sondern Texte auf Basis statistischer Muster erzeugen. Besonders häufig treten Halluzinationen bei Nischenthemen, Zahlenangaben und konkreten Quellenverweisen auf. Die Rate variiert je nach Modell und Aufgabe zwischen 3 und 27 Prozent.
Sprachmodelle generieren Text Wort für Wort, wobei sie jeweils das wahrscheinlichste nächste Wort vorhersagen. Wenn das Modell zu einem Thema keine verlässlichen Informationen in seinen Trainingsdaten hatte, extrapoliert es aus verwandten Mustern und erzeugt plausibel klingende, aber falsche Inhalte. Das Modell hat kein Konzept von 'wahr' oder 'falsch', sondern nur von 'wahrscheinlich' oder 'unwahrscheinlich'. Verschiedene Gegenmaßnahmen reduzieren Halluzinationen: RAG bindet verifizierte Daten ein, niedrigere Temperature-Einstellungen machen die Ausgabe konservativer, und Chain-of-Thought-Prompting verbessert die logische Kohärenz.
Halluzinationen sind das größte Risiko bei unkontrollierter KI-Nutzung. Gegenmaßnahmen: RAG (KI mit echten Firmendaten verknüpfen), menschliche Überprüfung bei kritischen Entscheidungen und Quellenangaben aktivieren. Lokale Systeme mit Wissensbasis reduzieren das Risiko erheblich. Für den Mittelstand besonders kritisch: Falsche Preisangaben, erfundene Vertragsbedingungen oder fehlerhafte rechtliche Aussagen können reale Schäden verursachen. Der wichtigste Schutz ist ein Bewusstsein für das Problem bei allen Mitarbeitern, die KI nutzen.
Jannis Gerlinger ist Geschäftsführer der JANGER GmbH. Seit über 15 Jahren entwickelt er digitale Lösungen, erst im UX/UI Design und E-Commerce, heute mit dem Fokus auf sichere KI-Systeme für den Mittelstand. Mit seiner TÜV-Zertifizierung in Verkaufspsychologie verbindet er technisches Know-how mit einem tiefen Verständnis für Geschäftsprozesse.
Die neuesten Praxis-Tipps zur KI-Einführung direkt in dein Postfach. Kein Spam, jederzeit abbestellbar.
In 15 Minuten findest du heraus, wo KI in deinem Betrieb den größten Hebel hat. Kostenlos, unverbindlich.
