Einen von einer KI erstellten Vorschlag einfach einem Menschen zur schnellen Freigabe vorzulegen, reicht für eine erfolgreiche KI-Transformation nicht mehr aus. Führende Technologieexpert:innen warnen, dass diese klassische Form der Kontrolle häufig versagt, weil Menschen mit der Zeit aufhören, wirklich aufmerksam zu prüfen. 

Wenn Mitarbeitende KI-Entscheidungen immer wieder bestätigen, sinkt die Qualität ihrer Kontrolle. Dieses Phänomen wird als „Normalisierung von Abweichungen“ (Normalization of Deviance) bezeichnet: Aus kleinen Abkürzungen werden schrittweise neue Standards. 

IBM warnt sogar davor, dass daraus eine Form des „Liability Laundering“ entstehen kann: Menschen bleiben zwar formal Teil des Entscheidungsprozesses, tragen im Fehlerfall jedoch die Verantwortung für Entscheidungen, die sie faktisch gar nicht mehr kritisch überprüft haben. 

Um diese Hürde zu überwinden, müssen wir aufhören, KI lediglich als weiteres Software-Feature zu betrachten. Stattdessen müssen wir die Verantwortung für Entscheidungen grundlegend neu gestalten. 

Aktuelle Forschung zur Zusammenarbeit zwischen Mensch und KI zeigt dabei drei entscheidende Veränderungen. 

Die Kontextlücke: Vom Faktenwissen zur „Epistemia“

Klassische Software führt Anweisungen aus. KI-native Produkte hingegen nehmen aktiv an Denk-, Planungs- und Entscheidungsprozessen teil. 

Die Herausforderung: KI scheitert häufig nicht an fehlenden Informationen, sondern am fehlenden Kontext – jenem unsichtbaren Delegationsvertrag, den Menschen implizit im Kopf tragen. Wir dokumentieren selten den Unterschied zwischen gesicherten Fakten, persönlichen Überzeugungen und strategischen Annahmen. 

Das Risiko: Die Forschung beschreibt hier das Phänomen der „Epistemia“: Nutzer schreiben einer KI echtes Wissen zu, nur weil ihre Antworten überzeugend, flüssig und selbstbewusst wirken. Diese Illusion von Wissen führt dazu, dass strategische Fehlannahmen oder Halluzinationen leicht übersehen werden. 

Die Lösung: Wir müssen den Fokus von klassischen User Flows auf Decision Flows verlagern. Dazu gehört, klar zu definieren, welche Teile des strategischen Kontexts die KI beeinflussen darf, und an welchen Stellen sie menschliche Einschätzungen und strategische Entscheidungen bewusst respektieren muss. 

Die Logik des Vertrauens: Das Transparenz-Paradoxon

Soll KI zu einem echten Partner werden, muss ihre Entscheidungslogik nachvollziehbar sein. Nutzer müssen jederzeit wissen, 

  • wann die Maschine selbst entscheiden darf, 
  • und wann sie den Menschen aktiv einbeziehen muss. 

Die Herausforderung: Fehlen diese Leitplanken, entsteht schnell ein Gefühl des Kontrollverlusts. Gleichzeitig zeigt sich jedoch, dass maximale Transparenz nicht automatisch bessere Entscheidungen ermöglicht. 

Das Risiko: Studien beschreiben ein „Transparenz-Paradoxon“: Mehr Erklärungen führen häufig nicht zu einer kritischeren Prüfung, sondern zu höherer Compliance – Menschen stimmen der KI eher zu, anstatt ihre Fehler zu erkennen. 

Die Lösung: Statt ausschliesslich auf Geschwindigkeit oder Transparenz zu optimieren, sollten Systeme Entscheidungssicherheit fördern.  Transparenz sollte nicht nur erklären, was die KI getan hat, sondern den Menschen in die Lage versetzen, zwischen einer guten und einer schlechten Empfehlung zu unterscheiden.  

Das Problem des impliziten Wissens: Grenzfälle und der „Lumberjack-Effect“

Dokumentierte Prozesse bilden selten das Erfahrungswissen ab, das Menschen im Laufe ihrer Arbeit entwickeln – insbesondere bei seltenen Sonderfällen. Dieses implizite Wissen wird häufig anhand des sogenannten Ford-Beispiels diskutiert. 

Die Herausforderung: Automatisierung funktioniert hervorragend bei Routineaufgaben. Kritisch wird es jedoch bei der kontinuierlichen Überwachung seltener Ausnahmen – den unscheinbaren, aber entscheidenden Grenzfällen. 

Das Risiko: Dieses Phänomen wird als „Lumberjack Effect“ beschrieben:  Je zuverlässiger die Automatisierung erscheint, desto stärker ist der Mensch überfordert, wenn plötzlich ein unerwarteter Ausnahmefall eintritt.  Wer KI-Vorschläge nur noch routinemässig bestätigt, verliert mit der Zeit sein mentales Modell des Systems und damit die Fähigkeit, komplexe Situationen richtig zu beurteilen. 

Die Lösung: Organisationen sollten bewusst KI-freie Arbeitsphasen (Unassisted Intervals) einführen.  In regelmässigen Abständen bearbeiten Mitarbeitende Aufgaben vollständig ohne KI-Unterstützung. So bleiben Erfahrungswissen, Urteilsvermögen und mentale Modelle erhalten. 

Fazit 

Echte KI-Transformation bedeutet nicht, Menschen zu ersetzen. Sie bedeutet, die Beziehung zwischen Menschen und den Entscheidungen, die sie an Maschinen delegieren, neu zu gestalten. 

Wenn wir Entscheidungslogik und Kontext nicht klar definieren, schaffen wir keine Innovation. Wir automatisieren lediglich unsere eigene Distanz zum Entscheidungsprozess. 

Quellen