Erklärbare KI: Bessere Entscheidungen, aber mehr Aufwand

Viele Unternehmen setzen große Hoffnungen in KI: Entscheidungen sollen schneller und präziser werden. Doch sobald Mitarbeitende verstehen, wie ein System zu seinen Empfehlungen kommt, beginnen sie, diese oftmals zu hinterfragen und seine Empfehlungen sogar zu ignorieren. Umfassende Erklärungen können zwar mehr Klarheit schaffen, verlagern aber auch mehr Verantwortung auf die Nutzer. Das führt zwar zu intensiverer Auseinandersetzung mit der zu treffenden Entscheidung, bremst dabei aber Prozesse und mindert die Geschwindigkeit und Effizienzgewinne, die man sich ursprünglich versprochen hatte.

Die Einführung von KI ist keine rein technologische Frage, sondern verändert die Entscheidungsarchitektur durch die gesamte Organisation hinweg. Unsere Forschung zeigt: Wer in komplexen, zeitkritischen Situationen auf erklärende Systeme setzt, muss wissen, dass die Qualität der Entscheidungen steigt, aber auch der Aufwand.

Anders sieht es bei Routinen und geringeren Risiken aus: Dort, wo viele Entscheidungen schnell und mit hoher Frequenz getroffen werden müssen, können einfache, weniger detaillierte Erklärungen die nötige Orientierung geben, ohne die Abläufe zu belasten.

Für CEOs stellt sich daher nicht die Frage, wie ausgereift ein System wirkt, sondern ob es zu den täglichen Abläufen passt. Bevor KI-Systeme mit umfangreichen Erklärungskomponenten ausgerollt werden, sollte klar sein, ob die Teams den zusätzlichen Kontext aufnehmen können. Erklärbarkeit ist kein Selbstzweck – sie muss zum Anwendungsfall passen und Raum lassen für menschliche Validierung, Ausnahmen und die strategischen Ziele der Organisation.

Tamer Boyaci ist Professor und Michael Diekmann ist Chair in Management Science an der ESMT Berlin. Die CEO.Picks sind eine Kooperation zwischen der ESMT und Table.Briefings.