IA on the job: einen Prozess verstehen oder seine Erklärung wiedererkennen?

Ein Assistent kann einen Freigabeprozess, ein Verfahren zur Schadenbearbeitung oder eine Eskalationsregel erklären, ohne dass die lesende Person diese anschliessend anwenden kann. Die Führungsfrage ist präzise: Welcher Nachweis des Verständnisses sollte vorliegen, bevor ein Team einen durch KI neu erläuterten Prozess eigenständig anwenden darf?

Was die Forschung belegt

Leonid Rozenblit und Frank Keil (2002, Cognitive Science) zeigen, dass Menschen ihr Verständnis von Mechanismen überschätzen und ihre Einschätzung korrigieren, wenn sie eine detaillierte Erklärung abgeben müssen. Eine verständliche Beschreibung wiederzuerkennen ist demnach nicht gleichbedeutend damit, die darin dargestellten kausalen Zusammenhänge selbst rekonstruieren zu können. Diese Experimente untersuchen keine KI, legen aber nahe, zwischen dem Gefühl des Verstehens und tatsächlich nachgewiesenem Verständnis zu unterscheiden.

Der Zugang zu Erklärungen kann die Selbsteinschätzung verzerren

Matthew Fisher, Mariel K. Goddu und Frank C. Keil (2015, Journal of Experimental Psychology: General) zeigen, dass die Suche nach Erklärungen im Internet die Einschätzung des eigenen Wissens erhöhen kann, auch in Bereichen, zu denen nicht gesucht wurde. Als Mechanismus schlagen sie eine Verwechslung des Zugangs zu externem Wissen mit dem eigenen Wissen vor. Ein dialogbasierter Assistent könnte eine ähnliche Verwechslung begünstigen; diese Übertragung bleibt jedoch eine Hypothese und ist kein Ergebnis der Studie.

Der vorschnelle Schluss

Daraus könnte man ableiten, Mitarbeitende müssten alles ohne Unterstützung erklären können, bevor ihnen ein Prozess anvertraut wird. Das würde operatives Verständnis mit vollständigem Auswendiglernen verwechseln: Eine Verfahrensanweisung nachzuschlagen gehört normalerweise zur Arbeit. Entscheidend ist vielmehr, ob eine Person eine fehlende Voraussetzung erkennt, eine kritische Abhängigkeit erklären und den Zeitpunkt einer notwendigen Eskalation bestimmen kann. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)

Was die Daten nicht garantieren können

Diese Arbeiten messen weder die Beherrschung von Finanzprozessen noch die Wirkung betrieblicher Weiterbildungen zu generativer KI. Sie erlauben es nicht, eine allgemeingültige Verständnisschwelle für selbstständiges Arbeiten festzulegen. In der Praxis prüfen weder ein Zufriedenheitsfragebogen noch die Frage «Ist das klar?» unmittelbar, ob jemand einen Prozess anwenden kann.

Eine überprüfbare Praxis in Zürich

Im Rahmen des SHR-Programms IA on the job wäre für Finanzdienstleister, Versicherungen, Tech-Unternehmen und europäische Konzernzentralen in Zürich folgende Übung sinnvoll: Gemeinsam mit der fachverantwortlichen Person wird ein nicht sensibler interner Prozess ausgewählt und je ein Standardfall und ein Ausnahmefall vorbereitet. Nach der Lektüre der KI-generierten Erklärung würden die Teilnehmenden ihre Sicherheit einschätzen und anschliessend die Fälle mit verfügbarer offizieller Verfahrensanweisung bearbeiten, wobei sie den Entscheidungspunkt und eine allfällige Eskalation begründen. Die zentrale Kennzahl wäre der Anteil der als sicher eingeschätzten Antworten, die an einem vorab definierten Entscheidungspunkt einen Fehler enthalten, überprüft durch die fachverantwortliche Person. Das Ergebnis würde keinen kausalen KI-Effekt belegen, aber sichtbar machen, wo das Gefühl der Beherrschung nicht ausreicht, um selbstständiges Arbeiten zu erlauben. Weiterführend: entdecken Sie die KI im Arbeitsalltag-Weiterbildung in Zürich im Kanton Zürich, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.

In Bildern: KI im Arbeitsalltag in Zürich

• ki im arbeitsalltag
• Zürich
• forschung
• Weiterbildung zürich