KI-Konfabulation statt Halluzination: Wenn Chatbots erfinden

Eine falsche Antwort, die perfekt klingt

Ein Chatbot beantwortet die Frage nach einer neuen europäischen Richtlinie in vier Sekunden. Die Antwort liefert den genauen Titel der Richtlinie, wann sie in Kraft tritt, konkrete Handlungsempfehlungen und ein Zitat aus einer passenden Studie. Das Problem: Die Richtlinie existiert nicht. Die Studie auch nicht. Die Ausgabe ist sprachlich stimmig und fachlich plausibel, aber wertlos.

In der Branche wird in solchen Fällen häufig von einer Halluzination gesprochen. Gemeint ist damit, dass ein KI-Modell Inhalte generiert, die faktisch falsch oder frei erfunden sind, obwohl sie überzeugend klingen. Der Begriff hat sich durchgesetzt, weil er das Phänomen auf den ersten Blick greifbar macht.

Es ist trotzdem irreführend: Chatbot-Halluzination wird meist als Oberbegriff für falsche Informationen aus KI-Systemen verwendet. Dabei beschreibt eine Halluzination im medizinischen Sinne eine Wahrnehmung ohne äußeren Reiz. Also etwas, das gesehen oder gehört wird, obwohl es nicht da ist. Es impliziert Bewusstsein und Sinneswahrnehmung, die Sprachmodelle nicht besitzen.

Das Modell hat hier nichts „gesehen“, was nicht da war. Es hat eine Lücke geschlossen. Deshalb halte ich den Begriff Halluzination für missverständlich. Er scheint zu passen, führt gedanklich aber in die falsche Richtung. Wer KI-Fehler als Halluzinationen rahmt, sucht am Ende nach den falschen Gegenmaßnahmen.  

▶️ Jetzt KI-Beratung anfragen! ◀️

Konfabulation statt Chatbot-Halluzination: Warum der Begriff entscheidend ist

Konfabulation beschreibt eine unbewusste, schlüssig wirkende Rekonstruktion, die Erinnerungslücken füllt. Das trifft den Mechanismus von Sprachmodellen deutlich besser. Bei unvollständiger Evidenzlage erzeugen sie eine kohärente Fortsetzung. Nicht weil sie lügen wollen, sondern weil sie genau das tun, wofür sie trainiert wurden.

Die Fachwelt ist hier weiter als der Sprachgebrauch. Das US-Normungsinstitut NIST führt Konfabulation in seinem Generative-AI-Profil (NIST AI 600-1, Juli 2024) als eine von zwölf Risikokategorien und definiert sie als selbstsicher vorgetragene, aber falsche Inhalte. Halluzination erscheint dort nur als umgangssprachliche Bezeichnung dafür. Auch wenn Fachautoren den Begriff für passend halten, bleibt er dennoch eine Metapher. Ein Chatbot verfügt weder über Sinne noch Erinnerungen. Er verfügt über keine Überzeugungen und Absichten und lügt deshalb nicht im menschlichen Sinne. Die Sprache, die wir rund um KI verwenden, prägt jedoch, wie wir über sie nachdenken und welche Lösungen wir suchen. Das ist kein akademisches Detail, sondern hat praktische Konsequenzen für jede Implementierungsentscheidung.

🔎 Nicht jeder KI-Fehler ist Konfabulation

In meiner täglichen Arbeit mit KI-Systemen erlebe ich immer wieder, wie wichtig die genaue Unterscheidung zwischen verschiedenen KI-Fehlerquellen ist. Denn wer nicht weiß, welche Art von Fehler vorliegt, wird auch die falsche Gegenmaßnahme wählen. Hier sind meine Vorschläge, welche sechs Fehlerbilder in Praxistests unterschieden werden sollten:

• Konfabulation im engen Sinn: Das Modell füllt eine Lücke. Erkennbar daran, dass die Antwort ohne neue Evidenz schwankt.

• Grounding-Fehler: Die Aussage steht nicht in der gelieferten Quelle oder widerspricht ihr.

• Retrieval-Fehler: Das System findet die falsche, veraltete oder manipulierte Quelle.

• Schlussfolgerungsfehler: Die Prämissen stimmen, aber die Ableitung ist falsch.

• Zustimmungsfehler: Das Modell bestätigt eine falsche Nutzerannahme.

• Tool- oder Aktionsfehler: Planung, Parameter oder Ausführung eines Werkzeugs sind falsch.

Zusätzliche Verifikationsschritte können dazu beitragen, Fehler zu senken, eliminieren diese aber nicht.

⚠️ Wenn falsche KI-Antworten zu folgenreichen Handlungen werden

Bei einem Marketingentwurf ist eine fehlerhafte Formulierung ärgerlich. Bei einer Lieferantensperre, einer Vertragsauslegung oder einer Produktionsänderung kann sie erheblichen Schaden anrichten. Der Unterschied liegt nicht nur im Kontext, sondern zunehmend auch in der Art des Systems: Mit Agentic AI wächst nicht nur die Leistungsfähigkeit, sondern auch der Aktionsradius von KI deutlich. Ein Chatbot formuliert. Ein Agent liest Systeme, plant Schritte, ruft APIs auf und verändert Zustände. Fünf Agenten, die einander zustimmen, sehen aus wie fünf unabhängige Prüfungen. Es kann aber ein einzelner Fehler sein, der fünfmal gespiegelt wird.

Bei Physical AI kommt die reale Welt hinzu. Sensoren können rauschen, Objekte verdeckt sein, Simulation und Realität auseinanderfallen. Eine erfundene Lieferzeit bleibt dann nicht im Chatfenster, sondern kann in ERP, Maschine oder Roboter weiterlaufen. Neben Modellkontrollen braucht es deshalb harte Systemgrenzen: minimale Rechte, Freigaben vor irreversiblen Schritten, Protokollierung und Rollback.

Company Brain: Wie kann man die KI-Genauigkeit verbessern?

Viele Unternehmen sprechen inzwischen von einem „Company Brain“ – ein gemeinsamer, lernender Unternehmenskontext für Menschen und Agenten. Das Konzept ist sinnvoll, solange es nicht mit einem gigantischen Dokumenten-Upload oder einer magischen Single Source of Truth verwechselt wird. Ein Company Brain ist kein Modell, das „alles weiß“. Es ist eine versionierte, berechtigungsfähige Wissens- und Handlungsschicht, die dem Modell im jeweiligen Moment die erlaubten Quellen, Regeln und Werkzeuge zuführt.

Der Weg dorthin beginnt beim persönlichen Wissensspeicher, der Notizen, Quellen und Gedanken für eine Person strukturiert. Im Unternehmen reicht das nicht: Wissen braucht Eigentümer, Gültigkeitsdaten, Zugriffsrechte und belastbare Herkunftsnachweise. Erst wenn diese Wissensschicht mit Entscheidungs- und Prozesssystemen sowie klaren Freigabegates verbunden ist, entsteht ein gemeinsamer, nachvollziehbarer Kontext für Menschen und Agenten.

Entscheidend ist die Trennung der Ebenen. Das Modell bleibt dabei austauschbar – Unternehmenswissen, Berechtigungen und Prüfregeln müssen kontrollierbar bleiben. Genau dieses modulare Prinzip verfolgen wir bei Medialine mit unserem Company-Ansatz: Modelle und Betriebsformen werden in eine verwaltete Unternehmensarchitektur eingebettet, mit dem Ziel, KI-Genauigkeit und KI-Vertrauenswürdigkeit strukturell zu verankern. 

✅ Sieben Entscheidungen, die das C-Level jetzt treffen sollte:

Fazit: Die beste KI kennt die Grenzen ihrer Antwort 

Chatbots sehen keine Gespenster. Sie setzen Muster fort. Konfabulation erinnert uns besser als Halluzination daran, dass aus einer Lücke eine plausible Erzählung werden kann. Der Begriff allein löst aber nichts. Erst wenn Unternehmen klare Quellen definieren, Antworten systematisch prüfen und Verantwortlichkeiten eindeutig regeln, wird KI wirklich zuverlässig einsetzbar.

Die gute Nachricht: Unternehmen müssen nicht auf das perfekte Modell warten. Sie können heute beginnen – mit einem kleinen, klar begrenzten Use Case, verlässlichen Quellen und einer Messung, die falsche Gewissheit bestraft, statt Antwortfreude zu belohnen. Wer so startet, lernt schnell, wo die Grenzen des Systems liegen und kann sie gezielt verschieben.

 👉 Sie möchten KI zuverlässig in Ihrem Unternehmen einsetzen? 

Unsere Expertinnen und Experten helfen Ihnen dabei, den richtigen Use Case zu identifizieren, eine belastbare Wissensgrundlage aufzubauen und ein KI-System zu implementieren, das seine Quellen zeigt und seine Grenzen kennt. Vom ersten Konzept bis zum laufenden Betrieb.

Füllen Sie jetzt das Kontaktformular aus und sprechen Sie mit unseren Experten über den richtigen Ansatz für Ihre Organisation.