Automation Bias: wenn Führungskräfte aufhören zu prüfen
Macht ein meist zuverlässiges Werkzeug seine Nutzer weniger wachsam? Die Automatisierungsforschung antwortet differenziert, aber konsistent.
Der klassische Befund
Raja Parasuraman und Dietrich Manzey (2010, Human Factors) fassen Befunde zu Complacency und Automation Bias zusammen: Nutzer – auch Fachleute – unterlassen Kontrollen und folgen falschen Hinweisen. Die Studien stammen vor allem aus Luftfahrt und Prozesssteuerung.
Bestätigung im Berufsalltag
Kate Goddard, Abdul Roudsari und Jeremy Wyatt (2012, Journal of the American Medical Informatics Association) belegen das Phänomen in klinischen Entscheidungshilfen, bei heterogener Studienlage.
Nuance: Automatisierung bleibt nützlich
Keine dieser Arbeiten rät zum Verzicht; Arbeitslast, Vertrauen und Oberflächengestaltung beeinflussen den Bias. Zur generativen KI ist die Literatur noch jung. (unsere Weiterbildungen für Führungskräfte und Mitarbeitende)
Die Grenze der üblichen Praxis
Ein Hinweis «Ergebnisse prüfen» genügt nicht: Unter Druck fällt die Kontrolle zuerst weg. Sie muss organisiert werden.
Eine überprüfbare Praxis in Zürich
Für jedes KI-gestützte Ergebnis einen konkreten Prüfpunkt (Zahl, Quelle, Zitat) festlegen, den eine zweite Person kontrolliert. Die dort gefundenen Fehler pro Quartal zeigen, ob Wachsamkeit tatsächlich besteht. Weiterführend: entdecken Sie die Führen im Zeitalter der künstlichen Intelligenz-Weiterbildung in Zürich, oder durchstöbern Sie unsere Weiterbildungen für Führungskräfte und Mitarbeitende in der Schweiz.
In Bildern: Führen im Zeitalter der künstlichen Intelligenz in Zürich
- führen im zeitalter der künstlichen intelligenz
- Zürich
- forschung
- Weiterbildung zürich