Wenn KI Muster verstärkt, die wir nicht sehen

Autorin: Prof. Dr. Eugenia Schmitt – Professorin, Autorin, Coach, Co-Founder Trenz Institut | Trenz Institut

Warum Führung heute mehr erkennen muss, als Daten zeigen

Wie oft entscheiden wir auf Basis von Daten – ohne zu bemerken, welche Informationen nie in diesen Daten auftauchen?

Künstliche Intelligenz (KI) vermittelt Präzision, Berechenbarkeit und Objektivität. Doch KI arbeitet mit Mustern und Muster entstehen aus Daten, die Menschen ausgewählt, erfasst und bewertet haben.

Die Forschung zeigt eindeutig: „Machine-learning models can amplify biases present in their training data.“ (Hall et al., 2022)

Was heisst das im Klartext? Wenn Menschen über Jahre bestimmte Entscheidungslogiken bevorzugt haben, wie zum Beispiel extrovertierte Persönlichkeiten, bestimmte Kommunikationsstile oder gewohnte Karrierewege, dann wandern genau diese Muster in die Daten ein. Die KI lernt daraus, erkennt wiederkehrende Strukturen und reproduziert sie.

Nicht, weil die KI „biased“, d.h. verzerrt wäre, sondern weil wir es sind. Unsere Routinen, unsere Wahrnehmungen und unsere Prioritäten erzeugen die blinden Flecken.

Wie KI menschliche blinde Flecken verstärkt

Die Muster, die wir in unsere Modelle einspeisen, manifestieren sich auf drei Ebenen:

1. Datenblinde Flecken, also das, was nie erfasst wurde

Viele KI-Modelle basieren auf historischen Daten, die bestimmte Perspektiven strukturell unterrepräsentiert haben.

„Algorithmic systems are vulnerable to blind spots when data does not adequately represent the full range of cases.“ (van Leeuwen et al., 2019)

Wenn zum Beispiel stillere Teammitglieder selten in Projekten sichtbar wurden oder bestimmte Karrierewege weniger dokumentiert sind, erscheinen sie in KI-basierten Rankings seltener. Die KI sieht sie nicht, weil die Datenbasis sie historisch ignoriert hat.

2. Kognitive und strukturelle blinde Flecken, also Das, was wir unbewusst übersehen

Hagendorff (2022) beschreibt detailliert, wie Menschen systematisch bestimmte Themen oder Werte weniger wahrnehmen. Diese menschlichen und organisationalen systemischen Annahmen werden in die Algorithmen übersetzt:

• Wir halten Informationen für „objektiv“, die nur unsere dominante Perspektive spiegeln.
• Teams unterschätzen Risiken, die außerhalb ihres Erfahrungsraums liegen.
• Führungskräfte bewerten Leistung anhand von Kriterien, die nie explizit festgelegt wurden.

3. Verstärkung durch KI (Bias Amplification). Muster, die durch Feedback-Loops größer werden

Wenn KI eine Empfehlung macht und Teams dieser Empfehlung folgen, erzeugen sie neue Daten, die zukünftige Entscheidungen weiter beeinflussen – ein Rückkopplungseffekt.

Diesen Effekt nennen Hall et al. (2022) die Bias Amplification: die Verstärkung eines Musters durch wiederholte algorithmische Anwendung. Ein kleiner, historischer Bias wächst exponentiell.

Das Spektrum des Fehlers: Von blindem Fleck bis zur Verhärtung

Das Spektrum menschlicher Reaktionen auf KI ist breiter als nur das blinde Vertrauen (Automation Bias). Das Risiko liegt heute auch in der Verhärtung eigener Positionen:

• Unsichere Menschen neigen dazu, die Verantwortung an die KI abzugeben (Automation Bias).
• Sehr sichere Menschen nutzen die KI als Bestätigung ihres eigenen Standpunkts (Confirmation Bias, d.h. Bestätigungsverzerrung).

Eine aktuelle Studie von Borinca (2025) nennt dies „AI as moral cover“. Menschen externalisieren die Verantwortung oder rechtfertigen ihre bereits bestehenden Meinungen stärker. Das Ergebnis ist oft weniger Austausch und mehr Polarisierung.

Sensemaking als Führungsaufgabe: Der Perspektivwechsel

Hier geht es um Wahrnehmung. Karl Weick (1995) beschreibt Sensemaking als Prozess, der durch „interruptions“ also Unterbrechungen oder Momente, in denen etwas nicht ins gewohnte Muster passt, ausgelöst wird. KI erzeugt solche Unterbrechungen ständig. Doch ohne Perspektivwechsel werden diese Unterbrechungen nicht gedeutet, sondern übergangen. Deshalb gilt:

„In increasingly complex information environments, the critical future skill is not certainty – it is interpretation.“ (Policy Horizons Canada, 2023)

Ein Beispiel aus der Praxis: Wer fehlt auf der Liste?

Ein Team nutzt ein KI-gestütztes Tool, das Mitarbeitende auf „Leadership Potential“ rankt. Die Liste wirkt präzise und objektiv. Doch eine Führungskraft bemerkt, dass eine der besten Nachwuchsführungskräfte fehlt.

Die Analyse zeigt:

• Die KI basiert auf historischen Beförderungsdaten.
• In der Vergangenheit wurden vor allem extrovertierte Projektrollen befördert.
• Die betreffende Mitarbeiterin arbeitet in einer hochanalytischen, wenig sichtbaren Funktion.

Der blinde Fleck ist nicht die KI. Es ist der historische Erfahrungsraum, aus dem sie gelernt hat.

Der Perspektivwechsel wird durch zwei einfache Fragen ausgelöst:

• „Wer fehlt auf dieser Liste – und warum?“
• „Welche Qualitäten hat diese Person, die das Modell nicht erkennen kann?“

Praxis: Der 4-Fragen-Filter gegen blinde Flecken (2 Minuten)

Dieser minimale Filter ist keine KI-Korrektur, sondern eine Wahrnehmungskorrektur:

1. Muster-Check:
   Wird ein altes Muster sichtbar? (Beispiel: Alle empfohlenen Personen ähneln dem bisherigen Ideal?)
2. Perspektiv-Check:
   Wer fehlt hier strukturell? (Welche Personengruppe oder Funktion wird nicht berücksichtigt?)
3. Ziel-Check:
   Dient das Ergebnis unserer strategischen Zukunft? (Optimiert das Modell für Flexibilität, wenn wir Stabilität brauchen?)
4. Schadens-Check:
   Was wäre die schlimmste Auswirkung eines Fehlers? (Welche Entscheidung könnte einen schwer wiedergutzumachenden Fehler erzeugen?)

KI macht nicht nur mehr sichtbar. Sie macht anders sichtbar. Die eigentliche Führungsaufgabe liegt im Erkennen, im Infragestellen und im Schützen vor den blinden Flecken, die Systeme übernehmen.

KI denkt nicht für uns. Sie denkt mit uns. Aber nur wir entscheiden, was das bedeutet.

Quellenverzeichnis & Links

• Agarwal, N. et al. (2024). Combining Human Expertise with Artificial Intelligence. MIT / NBER Working Paper.
• Borinca, I. (2025). AI as moral cover: How algorithmic bias exploits psychological mechanisms. Wiley.
• Hagendorff, T. (2022). Blind spots in AI ethics. Springer.
• Hall, M. et al. (2022). A Systematic Study of Bias Amplification. 
• Policy Horizons Canada (2023). Sense-Making Futures.
• Rosbach, E. et al. (2024). Automation Bias in AI-Assisted Medical Decision-Making. 
• Übellacker, T. (2025). Making Sense of AI Limitations. 
• van Leeuwen, M. et al. (2019). Blind Spots in AI: the Role of Serendipity and Equity. KDD.
• Weick, K. (1995). Sensemaking in Organizations. Sage.

Autorin