Biais d'automatisation : quand le manager cesse de vérifier
Un outil fiable la plupart du temps rend-il ses utilisateurs moins vigilants ? La recherche sur l'automatisation apporte une réponse nuancée mais constante.
Le constat classique
Raja Parasuraman et Dietrich Manzey (2010, Human Factors) synthétisent les travaux sur la complaisance et le biais d'automatisation : les utilisateurs omettent de vérifier et suivent des indications erronées, y compris des experts. Les études portent surtout sur l'aviation et le contrôle de processus.
La confirmation en contexte professionnel
Kate Goddard, Abdul Roudsari et Jeremy Wyatt (2012, Journal of the American Medical Informatics Association) recensent le phénomène dans les systèmes d'aide à la décision clinique. La revue signale l'hétérogénéité des études et l'absence de mesure standardisée.
Nuance : l'automatisation reste utile
Aucun de ces travaux ne conclut qu'il faut renoncer à l'outil ; ils montrent que la charge de travail, la confiance et la conception de l'interface modulent le biais. L'IA générative, plus récente, n'a pas encore fait l'objet d'une littérature aussi mûre. (nos formations pour cadres et collaborateurs)
La limite de la pratique courante
Ajouter une consigne « relisez les résultats » ne suffit pas : sous pression, la vérification est la première étape sacrifiée. Il faut l'organiser, pas seulement la recommander.
Une implication pratique, vérifiable à Zurich
Désigner, pour chaque livrable produit avec l'IA, un point de contrôle précis (chiffre, source, citation) à vérifier par une autre personne. Compter sur un trimestre les erreurs détectées à ce point indique si la vigilance est réelle. Pour aller plus loin : découvrez la formation Manager à l'ère de l'intelligence artificielle à Zurich, ou parcourez nos formations pour cadres et collaborateurs en Suisse.
En images : Manager à l'ère de l'intelligence artificielle à Zurich
- manager à l'ère de l'intelligence artificielle
- Zurich
- recherche
- formation zurich