KI-Einführung: Wer prüft, was das Team übernimmt?

Eine gut formulierte Antwort kann in ein Arbeitsergebnis einfliessen, ohne dass jemand ausdrücklich entschieden hat, ihr zu vertrauen. Die konkrete Führungsfrage lautet: Wie lassen sich Prüfaufgaben so verteilen, dass das Team die Nutzung von KI nicht mit der Delegation des eigenen Urteils verwechselt?

Was die Forschung belegt

John D. Lee und Katrina A. See (2004, Human Factors) geben einen Überblick über die Forschung zum Vertrauen in die Automatisierung: Das Ziel ist nicht maximales Vertrauen, sondern ein Rückgriff auf das System, der dessen Fähigkeiten und dem Kontext entspricht. Vertrauen beeinflusst insbesondere dann, wie stark man sich auf ein Werkzeug verlässt, wenn dessen Funktionsweise nicht vollständig verstanden werden kann. Für Führungskräfte bedeutet dies, zwischen der Bereitschaft zur KI-Nutzung und der Angemessenheit des Vertrauens in eine bestimmte Antwort zu unterscheiden.

Der Mechanismus: Die Kontrolle kann nachlassen

Raja Parasuraman und Victor Riley (1997, Human Factors) unterscheiden Nutzung, Fehlgebrauch, Nichtnutzung und missbräuchlichen Einsatz von Automatisierung. Ihre Analyse beschreibt unter anderem, wie übermässiges Vertrauen mit einer unzureichenden Überwachung der Ergebnisse einhergehen kann. Auf KI übertragen, lenkt dieser Rahmen den Blick nicht nur darauf, was das Werkzeug erzeugt, sondern auch darauf, was das Team nicht mehr kontrolliert.

Der vorschnelle Schluss

Daraus könnte man ableiten, dass alles systematisch geprüft werden muss. Diese Arbeiten belegen jedoch nicht, dass eine lückenlose Kontrolle für jede Aufgabe die beste Organisationsform ist. Eine vorsichtigere Schlussfolgerung für die Führung besteht darin, die Prüfung an den Folgen eines Fehlers, seiner Erkennbarkeit und der Möglichkeit auszurichten, eine Entscheidung rückgängig zu machen. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)

Was sich aus den Daten nicht ableiten lässt

Die beiden Artikel sind Übersichtsarbeiten zur Automatisierung, keine Versuche mit heutigen generativen Assistenten in Genfer Unternehmen. Sie beleuchten ein Überwachungsproblem, liefern aber weder eine allgemeingültige Prüfquote noch die Gewissheit, dass eine menschliche Freigabe Fehler aufdeckt. Die Anweisung «gegenlesen lassen» bleibt daher unzureichend, wenn sie weder die Prüfpunkte noch die Referenzquellen oder die verantwortliche Person benennt.

Eine überprüfbare Praxis in Genf

Im Rahmen des Programms « Conduire l’adoption de l’IA dans son équipe » von SHR — Swiss Human Resources besteht eine Übung darin, für eine zulässige Nutzung einen kritischen Prüfpunkt festzulegen: eine kundenbezogene Aussage im Private Banking, einen Dokumentenverweis in einer internationalen Organisation, eine Produkteigenschaft in der Luxusuhrenindustrie oder eine Vertragsklausel im Rohstoffhandel. Während zwei Wochen kann das Team die betreffenden Arbeitsergebnisse, die vorgesehene Prüfung, die konsultierte Referenz und die freigebende Person erfassen, ohne sensible Daten zu kopieren. Als Kennzahl dient der Anteil dieser Arbeitsergebnisse, deren Prüfung vor der Weitergabe dokumentiert ist, ergänzt um Prüfzeit und vorgenommene Korrekturen. Diese Erfassung misst die Durchführung der Kontrolle, nicht die Fehlerfreiheit; sie zeigt dennoch, ob die festgelegte Verantwortung tatsächlich wahrgenommen wird. Weiterführend: entdecken Sie die KI-Einführung im Team gestalten-Weiterbildung in Genf, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.

In Bildern: KI-Einführung im Team gestalten in Genf

• ki-einführung im team gestalten
• Genf
• forschung
• Weiterbildung genf