KI-Einführung: Was muss weiterhin überprüft werden?
In einem Team, das KI einführt, klingt die Aufforderung «immer überprüfen» umsichtig, lässt aber den dafür notwendigen Arbeitsaufwand offen. Die Führungsfrage ist präziser: Welche Ergebnisse sollen nach welchem Verfahren kontrolliert werden, und woran lässt sich erkennen, ob diese Kontrolle wirksam bleibt?
Was die Literatur zeigt
John D. Lee und Katrina A. See (2004, Human Factors) geben einen Überblick über die Forschung zum Vertrauen in automatisierte Systeme. Ihre Analyse unterscheidet zwischen Vertrauen und der tatsächlichen Entscheidung, sich auf ein System zu verlassen, und betont die Bedeutung eines an die tatsächlichen Fähigkeiten angepassten Vertrauens. Für die Teamleitung geht es deshalb nicht darum, Vertrauen zu maximieren, sondern die Bedingungen offenzulegen, unter denen ein Vorschlag übernommen werden kann.
Der Mechanismus: Delegation kann auch die Überwachung schwächen
Raja Parasuraman und Victor Riley (1997, Human Factors) untersuchen angemessene und unangemessene Formen der Automationsnutzung, darunter übermässiges Vertrauen und unzureichende Nutzung. Ihr Überblick beschreibt, wie übermässiges Vertrauen zu einer unzureichenden Überwachung automatisierter Ergebnisse führen kann. Vorsichtig auf KI übertragen, legt dieser Mechanismus nahe, die Annahme eines Vorschlags von der Prüfung seiner Begründungsgrundlage zu unterscheiden.
Der vorschnelle Schluss
Daraus könnte man ableiten, dass eine obligatorische menschliche Freigabe ausreicht, um die Nutzung abzusichern. Eine Unterschrift belegt jedoch weder, dass eine Kontrolle stattgefunden hat, noch, dass der prüfenden Person die nötigen Informationen zur Fehlererkennung vorlagen. Entscheidend ist, festzulegen, was mit einer unabhängigen Quelle abgeglichen werden muss, statt jedes Ergebnis lediglich mit einer formellen Genehmigung zu versehen. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)
Die Grenzen der Daten und allgemeiner Anweisungen
Beide Artikel sind Forschungsübersichten zur Automation aus der Zeit vor den heutigen generativen KI-Werkzeugen: Sie messen deren Zuverlässigkeit in Präzisionsberufen nicht direkt. Sie erlauben deshalb weder die Festlegung einer allgemeingültigen Kontrollquote noch die Vorhersage eines Produktivitätsgewinns. Auch die Anweisung «Überprüfen Sie die Antworten» bleibt unvollständig, wenn sie keine Kriterien, zugänglichen Quellen und Zeit für die Kontrolle benennt.
Eine überprüfbare Praxis in Neuchâtel
Im Rahmen des Programms «Conduire l’adoption de l’IA dans son équipe» könnte eine Übung in Neuchâtel Zusammenfassungen von Nichtkonformitäten aus abgeschlossenen und dafür freigegebenen Dossiers der Mikrotechnik, Uhrenindustrie oder Präzisionsmikroelektronik nutzen, ohne Auswirkungen auf die Produktion. Anhand desselben Satzes vorbereiteter Ergebnisvorschläge mit Fehlern, die nur der auswertenden Person bekannt sind, liesse sich eine allgemeine Aufforderung zum Gegenlesen mit einem Prüfprotokoll vergleichen, das die zu kontrollierenden Referenzen und die massgeblichen Dokumente nennt. Für beide Vorgehensweisen wären der Anteil der tatsächlich entdeckten eingebauten Fehler und die Kontrollzeit pro Dossier zu messen. Dieser lokale Test würde das Werkzeug nicht zertifizieren, könnte aber zeigen, ob das Protokoll die Fehlererkennung verbessert und welchen Arbeitsaufwand dies verursacht. Weiterführend: entdecken Sie die KI-Einführung im Team gestalten-Weiterbildung in Neuenburg, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.
In Bildern: KI-Einführung im Team gestalten in Neuenburg
- ki-einführung im team gestalten
- Neuenburg
- forschung
- Weiterbildung neuenburg