Wissen · KI-Halluzinationen

Warum KI bei Zahlen halluziniert

Von Thomas Ingenhorst, Co-Founder der oneLake GmbH · Veröffentlicht am 10. Februar 2026, aktualisiert im November 2026

Zusammenfassung: Im Geschäftsalltag zeigen sich die Schwächen von KI-Systemen besonders deutlich. In einem Test konnte ChatGPT selbst einfache Basisdaten von Unternehmen nicht korrekt wiedergeben, viele Angaben waren frei erfunden. Bei Geschäftszahlen wiegt das schwerer, denn hier fehlen der KI gleich zwei Dinge: Sie kennt die Zahlen nicht und sie weiß nicht, wie ein Unternehmen zum Beispiel den Umsatz berechnet. Die Daten bereitzustellen, ist der einfache Teil der Lösung. Verlässliche Zahlen liefert eine KI erst, wenn sie auf geprüfte Kennzahlen zugreift, statt sie selbst zu berechnen.

96 % erfundene Angaben: Was eine Studie über ChatGPT und den Mittelstand zeigt

Angenommen, Sie fragen ChatGPT nach dem Geschäftsführer eines Zulieferers. Die Antwort kommt sofort, ist flüssig formuliert und nennt sogar das Gründungsjahr. Trotzdem stimmt davon nichts.

Wie oft das passiert, hat die Agentur maxonline in ihrer KI-Halluzinations-Studie 2026 untersucht. Zwischen März und April 2026 testete sie 150 mittelständische Unternehmen aus 11 Branchen mit einem Jahresumsatz von 5 bis 50 Mio. Euro, jeweils mit 3 standardisierten Prompt-Typen in ChatGPT. Der Schwerpunkt lag auf Österreich, ergänzt um Firmen aus Deutschland und der Schweiz. Die Ergebnisse sind deutlich:

  • 96 % der Geschäftsführer-Namen, die ChatGPT konkret nannte, waren frei erfunden.
  • 78 % der genannten Gründungsjahre waren falsch.
  • 68 % der genannten Mitarbeiterzahlen waren erfunden.
  • Nur bei 4 der 150 Unternehmen, also bei knapp 3 %, waren alle abgefragten Angaben korrekt.

Dabei ging es um öffentlich zugängliche Informationen, die ChatGPT im Prinzip hätte kennen können. Bei den internen Zahlen eines Unternehmens, etwa dem Umsatz im letzten Quartal, hat ein Sprachmodell ohne Anbindung an die eigenen Systeme gar keine Grundlage. Eine Antwort liefert es trotzdem.

Was ist eine KI-Halluzination?

Eine KI-Halluzination liegt vor, wenn ein Sprachmodell eine Information ausgibt, die falsch ist, aber überzeugend klingt. Das Modell bemerkt dabei nicht, dass es etwas erfindet. Es erzeugt die Antwort, die nach seinen Trainingsdaten am wahrscheinlichsten passt, und unterscheidet nicht zwischen einer belegten Tatsache und einer gut klingenden Vermutung.

In einem Werbetext mag eine erfundene Formulierung kaum ins Gewicht fallen. Bei einer Geschäftszahl, auf der eine Entscheidung beruht, sieht das anders aus.

Ursache 1: Der KI fehlt das Wissen

Sprachmodelle wie ChatGPT, Gemini oder Claude haben ihr Wissen aus Trainingsdaten. Was darin selten oder gar nicht vorkommt, kennen sie nicht. Sie antworten trotzdem, weil sie darauf trainiert sind, hilfreich zu sein. Fehlt eine Information, setzen sie ein, was statistisch am besten passt. Genau das zeigt die Studie: Über große Konzerne steht viel im Netz, über einen Maschinenbauer mit 200 Beschäftigten wenig.

Auf Geschäftsdaten übertragen lässt sich diese Ursache zum Teil beheben: Wer eine Tabelle hochlädt, ein Dokument anhängt oder die KI über einen Konnektor mit einer Datenquelle verbindet, gibt ihr das fehlende Wissen. Mit eingebauten Funktionen zur Datenanalyse rechnen ChatGPT & Co. außerdem tatsächlich, statt Zahlen zu schätzen. Eine hochgeladene Excel-Tabelle summieren sie in der Regel korrekt.

Damit ist das Problem allerdings erst zur Hälfte gelöst. Die KI hat jetzt zwar Zugriff auf die Zahlen, aber wählt sie auch die richtigen aus? Und wie groß darf bei Geschäftszahlen der Abstand zwischen richtig und fast richtig sein? In aller Regel gilt: Fast richtig ist wertlos.

Ursache 2: Der KI fehlt die Geschäftslogik des Unternehmens

Auch mit Zugriff auf die richtigen Daten kann eine KI eine falsche Zahl liefern. Der Grund liegt in den Begriffen. Was ein Unternehmen unter Umsatz, Marge oder Neukunde versteht, steht in keiner Tabelle. Es steckt in Definitionen, die Controlling und BI über Jahre festgelegt haben.

Nehmen wir die Frage „Wie hoch war der Umsatz im Oktober?“. In den meisten Unternehmen gibt es darauf mehrere richtige Antworten, je nachdem, was gemeint ist:

Lesart der FrageErgebnis (Beispiel)
Bruttoumsatz nach Bestelldatum1.240.000 €
Nettoumsatz nach Rechnungsdatum1.030.000 €
Nettoumsatz nach Zahlungseingang, ohne Retouren und Stornos945.000 €

Ein Sprachmodell entscheidet sich für eine dieser Lesarten, meist für die, die ihm am plausibelsten erscheint. Welche es gewählt hat, sagt es nicht. Heraus kommt eine Zahl, die präzise wirkt und plausibel klingt, aber nicht mit der Zahl im Monatsreport übereinstimmt.

Hinzu kommt, dass Sprachmodelle identische Fragen unterschiedlich beantworten. Stellt jemand dieselbe Frage zweimal, kann die KI beim zweiten Mal eine andere Lesart wählen und eine andere Zahl ausgeben. Bei einer Kennzahl, die in einem Report oder einer Vorstandsvorlage landet, ist das nicht akzeptabel.

Mehr Daten helfen hier nicht. Die Fehlerursache verschwindet erst, wenn die Definition selbst festgelegt ist und die KI sich daran halten muss.

Warum falsche Zahlen gefährlicher sind als falsche Sätze

Ein holpriger Satz fällt beim Lesen sofort auf. Eine falsche Zahl sieht dagegen genauso aus wie eine richtige. Zahlen, die exakt wirken, werden selten nachgeprüft. Sie landen unhinterfragt in Reports, Forecasts und Entscheidungsvorlagen und werden von dort weitergereicht.

Im Arbeitsalltag kann das so aussehen:

  • Ein Vertriebsleiter fragt die KI nach dem Umsatz seiner Region und bekommt den Bruttowert. Im Forecast-Meeting passen seine Zahlen dann nicht zu denen aus dem Controlling, das den Nettoumsatz zugrunde legt.
  • Eine Bereichsleiterin lädt eine Datei hoch, um die Marge je Produktgruppe zu berechnen. Die KI rechnet ohne die Rabatte, die im ERP separat gebucht werden.
  • Die Geschäftsleitung bekommt zwei Vorlagen zum selben Thema mit zwei verschiedenen Zahlen und muss zuerst klären, welche stimmt.

Das passiert häufiger, als viele BI-Abteilungen ahnen. Laut einer Befragung des Instituts der deutschen Wirtschaft vom September 2026 nutzen 29,1 % der Beschäftigten, die im Job KI einsetzen, Werkzeuge, die ihr Arbeitgeber nicht bereitstellt. Welche Daten dort einfließen und welche Zahlen ausgegeben werden, kontrolliert niemand.

Welche Risiken für den Datenschutz dazukommen, beschreibt unser Artikel „Firmendaten in ChatGPT eingeben?“.

Was gegen KI-Halluzinationen bei Zahlen hilft und was nicht

Es gibt mehrere Wege, falsche Zahlen aus der KI zu vermeiden. Wie gut sie wirken, hängt davon ab, welche der beiden Ursachen sie angehen.

MaßnahmeHilft gegen fehlendes WissenHilft gegen fehlende Geschäftslogik
Genauere Prompts, etwa „Nenne nur belegte Zahlen“kaumkaum
Dateien hochladen oder Datenquellen anbindenjanein
Die KI mit Code rechnen lassenja, die Rechnung stimmtnein, die Definition bleibt offen
Definitionen jedes Mal im Prompt mitgebenteilweiseteilweise, hängt an jeder einzelnen Person
Geprüfte Kennzahlen in einem semantischen Layerjaja
Transparenz in der Antwort (Kennzahl, Zeitbezug, Filter)macht Fehler sichtbarmacht Fehler sichtbar

Ein semantischer Layer ist eine Schicht zwischen den Datenquellen und der Anwendung. Dort wird jede wichtige Kennzahl einmal verbindlich festgelegt: welche Quelle gilt, wie gerechnet wird, welcher Zeitbezug und welche Filter gelten. Die KI hat dann nur noch die Aufgabe, die Frage der passenden Kennzahl zuzuordnen. Frei rechnen muss sie nicht mehr.

Woran Sie eine verlässliche Antwort erkennen

Fünf Fragen helfen bei jeder Zahl, die eine KI liefert:

  1. Welche Kennzahl wurde verwendet und ist sie im Unternehmen genau so definiert?
  2. Welcher Zeitbezug gilt, also Bestell-, Rechnungs- oder Zahlungsdatum?
  3. Welche Filter wurden angewendet, etwa für Stornos, Retouren oder Vertriebskanäle?
  4. Wurde die Kennzahl vorher geprüft oder hat die KI sie frei berechnet?
  5. Was passiert, wenn es für die Frage noch keine Definition gibt?

Kann ein Werkzeug diese Fragen nicht beantworten, sollten Sie seinen Zahlen nicht blind vertrauen. Ob Ihr BI für den Einsatz von KI bereit ist, können Sie mit unserer Checkliste „Ist Ihr BI bereit für KI?“ prüfen.

So löst Lumdona das

Lumdona trennt die beiden Aufgaben, die ein Sprachmodell sonst vermischt. Die KI versteht die Frage in natürlicher Sprache. Die Zahl, die Lumdona ausgibt, stammt aus einer Kennzahl, die vorher definiert und fachlich freigegeben wurde. Wichtige Kennzahlen lassen sich zusätzlich mit Testfällen und einem Abgleich mit dem Quellsystem absichern. Mit einem Klick sehen Sie, welche Kennzahl, welcher Zeitbezug und welche Filter verwendet wurden. Eine solche Zahl trägt das Siegel „geprüfte Kennzahl“.

Gibt es zu einer Frage noch keine geprüfte Kennzahl, sagt Lumdona das. Lumdona schlägt vor, das Ergebnis selbst zu berechnen, und tut das erst nach Ihrer ausdrücklichen Zustimmung. Den Rechenweg legt die Lösung offen, das Siegel „geprüfte Kennzahl“ trägt ein solches Ergebnis nicht. Die Daten kommen direkt aus Ihren Systemen, Lumdona bindet über 550 Datenquellen an, vom Data Warehouse über das ERP bis zum CRM.

Wie Kennzahlen in Lumdona definiert, geprüft und freigegeben werden

Ist Ihr BI bereit für KI?

Mit unserer Checkliste sehen Sie in wenigen Minuten, wo Ihre Daten und Kennzahlen heute stehen und welcher Startweg zu Ihnen passt. Das Ergebnis bekommen Sie sofort, ohne Anmeldung.

Häufige Fragen

Woher stammt die Zahl von 96 % erfundenen Angaben?

Aus der KI-Halluzinations-Studie 2026 der Agentur maxonline Marketing hfw GmbH, veröffentlicht im April 2026. Für die Studie wurden zwischen März und April 2026 150 mittelständische Unternehmen aus 11 Branchen mit jeweils drei standardisierten Prompt-Typen in ChatGPT getestet. Von den Geschäftsführer-Namen, die ChatGPT dabei konkret nannte, waren 96 % frei erfunden.

Was hat die maxonline-Studie noch gemessen?

Neben den erfundenen Geschäftsführer-Namen fand die Studie erfundene Angaben bei 78 % der genannten Gründungsjahre, bei 68 % der Mitarbeiterzahlen und bei 58 % der Auszeichnungen. Mehr als jedes zweite Unternehmen, nämlich 56 %, kannte ChatGPT gar nicht. Vollständig korrekt dargestellt wurden nur 4 der 150 Unternehmen, also knapp 3 %.

Ist das ein Einzelfall oder ein grundsätzliches Problem von Sprachmodellen?

Es ist ein grundsätzliches Problem. Sprachmodelle erzeugen Text auf Basis von Wahrscheinlichkeiten, nicht auf Basis geprüfter Fakten. Bei bekannten Großunternehmen mit viel öffentlichem Material sind die Antworten oft richtig. Bei Mittelständlern mit wenig Präsenz im Netz füllt das Modell die Lücken mit plausibel klingenden Angaben.

Lassen sich KI-Halluzinationen ganz verhindern?

Bei Sprachmodellen allgemein nicht. Bei Zahlen lässt sich das Risiko aber stark eingrenzen, wenn die KI nicht selbst festlegt, was eine Kennzahl bedeutet, und stattdessen auf geprüfte Definitionen zugreift. Ebenso wichtig ist, dass jede Antwort zeigt, worauf sie beruht.

Halluziniert ChatGPT auch, wenn ich eine Excel-Datei hochlade?

Die Rechnung selbst stimmt meist, weil ChatGPT dafür im Hintergrund ein kleines Programm schreibt und ausführt, statt die Zahl zu schätzen. Offen bleibt, welche Spalten, Zeiträume und Filter es verwendet. Fehlen diese Vorgaben, wählt das Modell eine plausible Lesart, die nicht zu den Definitionen in Ihrem Unternehmen passen muss.

Was ist ein semantischer Layer?

Ein semantischer Layer ist eine Schicht zwischen Datenquellen und Anwendungen, in der Kennzahlen einheitlich definiert sind. Er legt fest, aus welcher Quelle eine Kennzahl stammt, wie sie berechnet wird und welcher Zeitbezug und welche Filter gelten. BI-Werkzeuge und KI greifen auf diese Definitionen zu und kommen so zum selben Ergebnis.

Was unterscheidet eine KI mit geprüften Kennzahlen von ChatGPT & Co.?

ChatGPT & Co. erzeugen Antworten aus Wahrscheinlichkeiten und legen bei Zahlen selbst fest, wie sie eine Frage verstehen. Eine KI mit geprüften Kennzahlen nutzt das Sprachmodell nur, um die Frage zu verstehen. Das Ergebnis stammt aus einer Kennzahl, deren Quelle, Berechnung und Filter vorher festgelegt und geprüft wurden.

Weiterführend

Quellen

Demo vereinbarenKontakt