6. Juli 2026

Warum KI an Ihren Daten scheitert

und was 50 Jahre Bias-Forschung uns darüber verraten

Ein Denkstück über Wissen, Verzerrung und die einzige Frage, die über den Erfolg jedes KI-Projekts entscheidet.

Von J.C. Kopitzke — Agilist. Dualist. Visualist. Und kritischer KI Manager

Vorbemerkung: Was auf dieser Seite gilt

Auf kopitzke.io steht ein Satz, an dem ich mich messen lasse: „Nur harte Fakten sind entscheidend." Und ein zweiter: „Ich rücke gerade, was verdreht ist." Dieser Artikel ist die Anwendung dieser beiden Sätze auf das derzeit am meisten missverstandene Thema der Wirtschaft — Künstliche Intelligenz im Unternehmen. Ich werde nichts behaupten, das ich nicht belegen kann. Und ich werde einige Dinge geraderücken, die die Branche gerade sehr profitabel verdreht.

Fangen wir mit der unbequemsten Wahrheit an.

1. Die KI ist nicht Ihr Problem. Ihre Daten sind es.

Es gibt einen Satz aus der Frühzeit der Informatik, älter als jedes neuronale Netz, und er ist heute wahrer als je zuvor: Garbage in, garbage out. Müll rein, Müll raus. Ein Rechensystem kann aus schlechten Eingaben keine guten Ergebnisse machen — es kann sie nur schneller und überzeugender formulieren (Wikipedia: Garbage in, garbage out).

Moderne KI hat diesem alten Prinzip eine gefährliche neue Wendung gegeben: Sie macht aus Müll überzeugend klingenden Müll. Ein Sprachmodell ist im Kern eine Wahrscheinlichkeitsmaschine, die das nächste plausible Wort vorhersagt — nicht eine Datenbank, die Fakten nachschlägt (FourfoldAI, 2026). Deshalb klingt eine falsche KI-Antwort genauso souverän wie eine richtige. Das ist der eigentliche Grund, warum so viele KI-Projekte scheitern: Nicht weil die Technik zu schwach ist, sondern weil die Daten, auf denen sie steht, verzerrt, lückenhaft oder aus dem Kontext gerissen sind.

Und hier beginnt meine eigentliche These, die ich im Rest dieses Artikels Schritt für Schritt herleite:

Das Problem der KI ist kein technisches Problem. Es ist ein Bias-Problem. Und Bias ist ein Thema, das die Menschheit seit einem halben Jahrhundert erforscht — nur hat sie es bisher am Menschen studiert, nicht an der Maschine.

2. Ein halbes Jahrhundert Bias — die kurze Geschichte einer unbequemen Erkenntnis

1974 veröffentlichten zwei Psychologen, Daniel Kahneman und Amos Tversky, in der Zeitschrift Science einen Aufsatz mit dem Titel „Judgment under Uncertainty: Heuristics and Biases". Ihre Kernidee: Menschen treffen Entscheidungen nicht durch saubere Wahrscheinlichkeitsrechnung, sondern durch Abkürzungen — Heuristiken. Diese Abkürzungen sind meist nützlich, führen aber „manchmal zu schweren und systematischen Fehlern" (Zeithistorische Forschungen, zu Kahneman/Tversky 1974).

Das entscheidende Wort ist systematisch. Diese Fehler sind kein Zufall und keine Nachlässigkeit. Sie sind vorhersagbar in unsere Urteilskraft eingebaut. Kahneman erhielt für diese Arbeit später den Wirtschaftsnobelpreis. Sie ist das Fundament dessen, was wir heute kognitive Verzerrung nennen — Bestätigungsfehler, Verfügbarkeitsheuristik, Ankereffekt.

Warum erzähle ich das in einem Artikel über KI? Weil hier die Kette beginnt, die alles verbindet — und weil genau diese Kette der Kern meines Denkens als Coach und KI-Manager ist:

Menschen entscheiden systematisch verzerrt → diese Entscheidungen werden zu Daten → aus diesen Daten lernt die KI → die KI reproduziert die Verzerrung, nur schneller, skalierter und mit dem falschen Anschein von Objektivität.

Die Maschine erbt unseren Bias. Sie erfindet ihn nicht. Sie verstärkt ihn.

3. Der Beweis: Wenn menschlicher Bias zu Maschinen-Bias wird

Diese Kette ist keine Theorie. Sie ist dokumentiert — an einem der lehrreichsten Fälle der KI-Geschichte.

Amazon baute ab 2014 ein KI-System, das Bewerbungen automatisch vorsortieren sollte. Trainiert wurde es mit den Bewerbungen der vergangenen zehn Jahre. Das Problem: Diese zehn Jahre waren geprägt von menschlichen Einstellungsentscheidungen in einer männerdominierten Branche. Das System zog daraus den logischen — und fatalen — Schluss, dass Männer die bevorzugten Kandidaten seien. Es begann, Bewerbungen abzuwerten, in denen das Wort „Frauen" vorkam, etwa „Frauen-Schachclub". Amazon stampfte das System 2018 ein (heise online, t3n).

Sezieren wir das mit chirurgischer Präzision, denn hier liegt die ganze Argumentation:

1. Menschen trafen über zehn Jahre verzerrte Entscheidungen (kognitiver Bias, Ebene 1 — Kahneman/Tversky).
2. Diese Entscheidungen wurden zu Trainingsdaten (Daten-Bias, Ebene 2 — die Daten waren die geronnene Verzerrung).
3. Die KI lernte das Muster und wandte es systematisch an (Modell-Bias, Ebene 3).

Die KI hat nicht diskriminiert, weil sie „böse" oder „fehlerhaft" war. Sie hat exakt das getan, wozu sie gebaut wurde: Muster in Daten erkennen und fortschreiben. Der Fehler saß nicht im Algorithmus. Er saß in den Daten. Und in den Daten saß der Mensch.

Derselbe Mechanismus zeigt sich beim US-Justizalgorithmus COMPAS, der zur Rückfallprognose eingesetzt wurde: Auch nach Kontrolle für Alter, Geschlecht und Vorstrafen wies er schwarzen Angeklagten höhere Risikowerte zu als vergleichbaren weißen — verzerrte Daten, verzerrte Vorhersage, mit realen Folgen für Haftzeiten (Indiana Law Journal). Die Forschung hat inzwischen zahlreiche solcher systematisch verzerrter Trainingsdatensätze dokumentiert, quer durch Ethnie und Geschlecht (Buolamwini & Gebru, 2018, via arXiv).

Das ist die Brücke von 1974 nach 2026: Was Kahneman und Tversky am menschlichen Kopf beschrieben, materialisiert sich heute im Trainingsdatensatz. Bias ist nicht verschwunden. Er ist in die Maschine eingewandert.

4. Halluzination ist Bias unter anderem Namen — und sie ist nicht wegzudiskutieren

Die aktuelle Debatte nennt einen Teil dieses Problems „Halluzination": die Neigung von KI, souverän Dinge zu behaupten, die nicht stimmen. Und hier räume ich mit dem populärsten Verkaufsmythos des Jahres 2026 auf.

Die Behauptung lautet: „Mit RAG (Retrieval-Augmented Generation) reduzieren wir Halluzinationen auf null." Das ist falsch. Nicht ungenau — falsch.

Die harten Zahlen, Stand Mitte 2026:

• OpenAIs Flaggschiff GPT-5.5 halluziniert auf dem unabhängigen AA-Omniscience-Benchmark in 86 % der Fälle, wenn es auf eigenes Wissen angewiesen ist — mehr als doppelt so oft wie Claude Opus 4.7. Das beworbene „60 % weniger" findet sich in der eigenen System Card so nicht wieder; dort stehen 3 % (Antwort-Ebene) bis 23 % (Aussagen-Ebene) (Seekr — The Hallucination Tax).
• Kontraintuitiv, aber gut belegt: Die „intelligenteren" Reasoning-Modelle halluzinieren oft mehr. OpenAIs o3 lag bei 33 % — doppelt so hoch wie der Vorgänger o1 (Seekr — Lowest Hallucination Rate 2026).
• Bei juristischen Fragen hat Stanford Halluzinationsraten von 69–88 % gemessen; selbst spezialisierte Legal-AI-Tools lagen bei 17–33 % (brilo.ai zu Stanford RegLab).
• Und die Grenze ist prinzipiell: Ein mathematischer Beweis aus 2025 zeigt, dass Halluzinationen unter der heutigen LLM-Architektur nicht vollständig eliminierbar sind (Tendem AI).

Warum ist Halluzination im Kern dasselbe Problem wie Bias? Weil beide dieselbe Wurzel haben: ein System, das auf Wahrscheinlichkeit optimiert ist, nicht auf Wahrheit. Bias ist die systematische Verzerrung in eine Richtung. Halluzination ist die punktuelle Erfindung im Vakuum fehlender Daten. Beides sind Symptome derselben Ursache — mangelnde, verzerrte oder kontextlose Daten.

Und damit kommen wir zum Kern.

5. Die messerscharfe Kette: Warum Datenqualität UND -quantität im richtigen Kontext entscheiden

Hier ist die Argumentationskette, auf die alles hinausläuft. Sie ist bewusst so gebaut, dass jedes Glied das nächste zwingend trägt.

Prämisse 1 — KI erzeugt keine Wahrheit, sie erzeugt Wahrscheinlichkeit.
Ein Sprachmodell sagt das statistisch plausibelste nächste Wort voraus. Es hat kein Konzept von „wahr" (FourfoldAI, 2026). → Also kann die Qualität des Outputs nie höher sein als die Qualität und Passung der Daten, aus denen die Wahrscheinlichkeit berechnet wird.

Prämisse 2 — Schlechte Daten erzeugen systematisch schlechte Ergebnisse.
Garbage in, garbage out — belegt vom Amazon-Fall bis COMPAS. Verzerrte Daten erzeugen verzerrte Modelle, mit dem gefährlichen Zusatz, dass die Maschine der Verzerrung den Anschein von Objektivität verleiht. → Also ist Datenqualität keine IT-Hygiene, sondern die Determinante des Ergebnisses.

Prämisse 3 — Aber Qualität allein genügt nicht; es braucht die richtige Quantität im richtigen Kontext.
Hier wird es präzise, und hier trennt sich seriöse Beratung von Hype. Mehr Daten sind nicht automatisch besser. Zwei Belege:

• Zu wenig relevanter Kontext → das Modell füllt die Lücke mit Erfindung (Halluzination).
• Zu viel undifferenzierter Kontext → das Modell verliert die relevante Information im Rauschen. Das ist das dokumentierte „Lost in the Middle"-Phänomen: In langen Kontexten sinkt die Trefferquote für Informationen in der Mitte messbar (arXiv:2307.03172).
  → Also entscheidet nicht „viel" oder „wenig", sondern die richtige Menge relevanter Daten im richtigen Kontext. Datenquantität ohne Kontextsteuerung ist genauso schädlich wie Datenmangel.

Prämisse 4 — Der Kontext ist in der Praxis immer verrauscht.
Selbst mit bereitgestelltem, sauberem Kontext liegen die besten Modelle bei unter 2 % Halluzination — aber sobald der Kontext realistisch verrauscht ist, steigen die Werte auf 10–20 % (Vectara / RAG About It). Und Unternehmenskontext ist immer verrauscht: Dubletten, veraltete Versionen, Widersprüche, undokumentiertes Wissen. → Also ist die Arbeit an Datenqualität und Kontextsteuerung nicht optional, sondern die eigentliche Wertschöpfung jedes KI-Projekts.

Schlussfolgerung — zwingend aus 1 bis 4:
Der größte Hebel für erfolgreiche KI ist nicht das Modell, nicht die Vektordatenbank, nicht der Anbieter. Es sind die Daten. Belegt: In einem Healthcare-RAG-Projekt sank die Halluzinationsrate von 14 % auf 6 % — allein durch besseres Daten-Management, ohne Modellwechsel (RAG About It). Wer bei Daten und Kontext spart, spart am einzigen Hebel, der wirklich zählt.

Diese Kette ist der Grund, warum ich Kunden sage, was gegen mein kurzfristiges Umsatzinteresse läuft: Sie brauchen selten das teuerste System. Sie brauchen aufgeräumte, kontextualisierte Daten und Menschen, die das Ergebnis auch nutzen. Selbst Anthropic empfiehlt, bei Wissensbasen unter rund 500 Seiten ganz auf RAG zu verzichten und die Inhalte direkt ins Modell zu laden (Anthropic). Die halbe Branche verkauft eine Maschine für ein Problem, das saubere Daten und ein Prompt lösen.

6. Warum Anti-Hype gerade jetzt kein Luxus ist

2026 hat niemand mehr Budget zu verbrennen. 42 % der Unternehmen haben ihre KI-Initiativen abgebrochen, bevor sie produktiv wurden — 2024 waren es 17 % (Menlo Ventures). Gartner erwartet, dass 72 % der RAG-Projekte im ersten Jahr scheitern; eine MIT-Auswertung fand bei 95 % der Piloten keinen messbaren Effekt (FourfoldAI, 2026).

In diesem Klima ist der Berater, der Ihnen das Größte verkauft, Ihr Risiko — nicht Ihr Partner. Der ehrlichste Berater ist der günstigste, nicht pro Tag, sondern über das ganze Projekt gerechnet. Denn der teuerste Scheiterfall ist nicht die falsche Technik. Es ist die perfekte Technik, die niemand benutzt. Und die Ursache dafür ist fast immer dieselbe: Man hat mit der Technik angefangen statt mit dem Problem, dem Menschen und den Daten.

7. Mein Prinzip — und warum es aus meiner Herkunft kommt

Ich komme nicht aus der KI. Ich komme aus der Ordnung. Meine Arbeit als Agilist, Dualist und Visualist dreht sich seit jeher um einen einzigen Satz von kopitzke.io: „Ich rücke gerade, was verdreht ist." Agile Transformation, so wie ich sie verstehe, ist Exploration mit Irrtümern — „Ohne Fehler keine Anpassung", „Systems wachsen durch Reduktion" (kopitzke.io).

Genau dieser Blick ist es, den KI-Projekte brauchen und fast nie bekommen. Denn Bias — ob im Kopf des Managers oder im Trainingsdatensatz — ist nichts anderes als etwas Verdrehtes, das geradegerückt gehört. Ein KI-Projekt ist zu 20 % ein Technikprojekt und zu 80 % ein Daten-, Prozess- und Menschenprojekt. Und die drei letzten sind mein Handwerk seit über einem Jahrzehnt.

Deshalb lautet mein Reihenfolge-Prinzip, konsequent gegen den Strom der Branche:

1. Zuerst das Problem. Nicht jede Firma hat ein RAG-Problem. Viele haben ein Prozessproblem, das nur wie ein KI-Problem aussieht.
2. Dann der Mensch. Ein System, das niemand nutzt, ist wertlos — egal wie gut es ist. Adoption ist keine Schulungsfrage am Ende. Sie ist der Ausgangspunkt.
3. Dann die Daten. Aufräumen, entdubletten, kontextualisieren, Bias sichtbar machen. Das ist die unspektakuläre Arbeit, an der 70 % der Projekte scheitern, weil sie übersprungen wird.
4. Erst dann — vielleicht — die Technik. Und dann die einfachste, die das Problem löst. Nicht die teuerste, die es beeindruckt.

Facts are good advisors. Nur harte Fakten sind entscheidend. Das steht seit jeher auf meiner Seite. Dieser Artikel ist der Beweis, dass ich mich daran halte — auch dann, wenn die ehrliche Antwort lautet: „Sie brauchen das nicht."

Wenn Sie eine ehrliche zweite Meinung wollen

Bevor Sie in KI-Wissensmanagement investieren, lohnt ein Gespräch, das mit dem Problem beginnt und nicht mit dem Produkt. Manchmal ist meine ehrlichste Empfehlung, es gerade nicht zu tun. Genau das hat mir noch jeden dieser Kunden zum Stammkunden gemacht.

J.C. Kopitzke — Zum Jagenstein 6, 14478 Potsdam · jrgkop@kopitzke.io · kopitzke.io

Quellenverzeichnis Blog-Artikel

kopitzke.io (Selbstpositionierung, Zitate) — https://www.kopitzke.io

Kahneman/Tversky, „Judgment under Uncertainty" (1974), Einordnung — https://zeithistorische-forschungen.de/file/3973/download?token=L8L_5a2d

Amazon KI-Recruiting-Bias — https://www.heise.de/news/Amazon-KI-zur-Bewerbungspruefung-benachteiligte-Frauen-4189356.html ; https://t3n.de/news/diskriminierung-deshalb-platzte-amazons-traum-vom-ki-gestuetzten-recruiting-1117076/

COMPAS / algorithmischer Bias — https://www.repository.law.indiana.edu/cgi/viewcontent.cgi?article=11578&context=ilj

Systematisch verzerrte Trainingsdaten (Buolamwini & Gebru 2018) — https://arxiv.org/pdf/2107.02278v1.pdf

Garbage in, garbage out — https://en.wikipedia.org/wiki/Garbage_in,_garbage_out

Halluzinationen 2026 / GPT-5.5 / Marketing vs. System Card — https://www.seekr.com/resource/the-hallucination-tax-a-field-guide-to-defensible-enterprise-ai/

Reasoning-Modelle halluzinieren mehr / Benchmark-Abhängigkeit — https://www.seekr.com/resource/ai-lowest-hallucination-rate/

Stanford RegLab Legal-Halluzination 69–88 % — https://www.brilo.ai/resources/ai-hallucination-cost-businesses-2024-statistics

Mathematischer Beweis: Halluzination nicht eliminierbar (2025) — https://tendem.ai/blog/true-cost-ai-hallucinations-business-data

„Lost in the Middle" — https://arxiv.org/abs/2307.03172

Healthcare-RAG 14 %→6 % durch Daten-Management; verrauschter Kontext — https://ragaboutit.com/9-rag-benchmarks-prove-67-hallucination-still-ships/

KI-Natur als Wahrscheinlichkeitsmaschine / 2026-Reliability — https://www.fourfoldai.com/post/ai-hallucinations-in-2026-why-reliability-still-matters

Anthropic Contextual Retrieval / kein RAG unter ~500 Seiten — https://www.anthropic.com/engineering/contextual-retrieval

KI-Projekt-Abbrüche / Scheiterquoten — https://menlovc.com/perspective/2025-the-state-of-generative-ai-in-the-enterprise/

Atlassian State of Teams 2025 — https://www.atlassian.com/blog/state-of-teams-2025

Destatis Demografie 08/2025 — https://www.destatis.de/DE/Presse/Pressemitteilungen/2025/08/PD25_N048_13.html

KfW Nachfolge-Monitoring 2026 — https://www.kfw.de/PDF/Download-Center/Konzernthemen/Research/PDF-Dokumente-Fokus-Volkswirtschaft/Fokus-2026/Fokus-Nr.-526-Januar-2026-Nachfolge-Monitoring.pdf

WalkMe/SAP Shadow AI 2025 — https://news.sap.com/2025/08/new-walkme-survey-shadow-ai-rampant-training-gaps-undermine-roi/