KI-Einführung: Können wir erklären, was wir zu verstehen glauben?

Ein Team kann mühelos über einen KI-gestützten Prozess sprechen, ohne dessen entscheidende Schritte erklären zu können. Für die Führungskraft stellt sich eine konkrete Frage: Wie lässt sich das für eine Delegation notwendige Verständnis überprüfen, unabhängig von der geäusserten Sicherheit?

Was die Forschung belegt

Leonid Rozenblit und Frank Keil (2002, Cognitive Science) zeigen, dass Menschen ihr Verständnis von Mechanismen überschätzen, insbesondere wenn sie anschliessend eine detaillierte Erklärung formulieren sollen. Beim Erklären werden Lücken sichtbar, die in der ursprünglichen Selbsteinschätzung nicht erkennbar waren. Die Frage «Haben Sie es verstanden?» liefert somit nicht dieselbe Information wie die Aufforderung, die Funktionsweise zu rekonstruieren.

Der Zugang zu Erklärungen kann die Selbsteinschätzung verzerren

Matthew Fisher, Mariel Goddu und Frank Keil (2015, Journal of Experimental Psychology: General) zeigen in ihren Experimenten, dass die Suche nach Erklärungen im Internet die Einschätzung des eigenen Wissens erhöhen kann, auch zu anderen Themen. Das Ergebnis deutet darauf hin, dass die Grenze zwischen zugänglichen Ressourcen und eigenem Wissen nicht immer klar wahrgenommen wird. Für KI legt dies nahe, diese Unterscheidung zu untersuchen, ohne zu belegen, dass ein Gespräch mit einem Modell zwangsläufig denselben Effekt erzeugt.

Der vorschnelle Schluss

Daraus könnte man ableiten, ein Werkzeug müsse vor seiner Nutzung vollständig verstanden werden; das belegen diese Arbeiten nicht. Die Führungsfrage betrifft vielmehr das, was eine Person erklären können muss, um die übertragene Aufgabe zu verantworten: Eingangsvoraussetzungen, Erfolgskriterien und Situationen, die eine Eskalation erfordern. Gefragt ist kein Wissen über die Modellarchitektur, sondern ein operatives Verständnis der Delegation. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)

Was diese Daten nicht belegen

Diese Studien untersuchen weder heutige generative Assistenten noch die Delegation in Lausanner Teams. Sie liefern keinen Schwellenwert des Verständnisses, der eine sichere Nutzung garantiert. Eine stockende Erklärung kann zudem auf Ausdrucksschwierigkeiten beruhen: Sie sollte anhand einer Demonstration an einem konkreten Fall überprüft werden, statt zu einem Urteil über die Kompetenz zu werden.

Eine überprüfbare Praxis in Lausanne

Im Rahmen des SHR-Programms «Conduire l’adoption de l’IA dans son équipe» kann ein Lausanner Team eine nicht sensible Aufgabe testen: eine Hintergrundnotiz in der Medtech-Branche, Lehrmaterial an einer Hochschule, eine Logistikübersicht im internationalen Sport oder eine Kundenantwort in einem Scale-up der Genferseeregion. Vor dem Versuch gibt jede teilnehmende Person an, ob sie sich zutraut, den Prozess zu erklären, und beschreibt anschliessend ohne den Assistenten die erforderlichen Daten, das Abnahmekriterium und einen Eskalationsfall anhand eines vorab festgelegten Prüfrasters. Gemessen wird der Anteil der Personen, die sich die Erklärung zutrauen und diese drei Elemente an einem vorbereiteten Fall tatsächlich nachweisen; Antworten und Prüfraster werden aufbewahrt. Eine allfällige Lücke dient der Ausrichtung der Schulung, nicht als Sicherheitszertifikat oder individuelle Rangliste. Weiterführend: entdecken Sie die KI-Einführung im Team gestalten-Weiterbildung in Lausanne im Kanton Waadt, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.

In Bildern: KI-Einführung im Team gestalten in Lausanne

• ki-einführung im team gestalten
• Lausanne
• forschung
• Weiterbildung lausanne