Outil prédictif : ce qu’une erreur ne suffit pas à disqualifier
Un responsable doit-il abandonner un outil prédictif après une erreur visible, alors que ses performances comparées restent favorables ? Pour le programme « Prise de décision » de SHR — Swiss Human Resources, cette question invite à distinguer confiance, acceptation et qualité mesurée.
Ce que la littérature établit
Berkeley J. Dietvorst, Joseph P. Simmons et Cade Massey (2015, Journal of Experimental Psychology: General) montrent, dans des expériences de prévision, que les participants peuvent éviter un algorithme après l’avoir vu commettre des erreurs, même lorsqu’il surpasse le prévisionniste humain. Observer ses imperfections peut donc détourner d’un outil pourtant comparativement plus performant. Le point important n’est pas que l’outil serait infaillible, mais que ses erreurs et celles des humains ne reçoivent pas nécessairement le même traitement.
Le contrôle comme condition d’acceptation
Berkeley J. Dietvorst, Joseph P. Simmons et Cade Massey (2018, Management Science) montrent que permettre aux participants de modifier une prévision algorithmique, même légèrement, peut accroître leur disposition à l’utiliser. Une marge d’intervention limitée peut ainsi rendre acceptable un outil reconnu comme imparfait. Ce résultat concerne les conditions de son utilisation ; il ne démontre pas que toute correction humaine améliore la prévision.
La conclusion trop rapide
On pourrait en déduire qu’il suffit de laisser les responsables corriger les résultats pour obtenir de meilleures décisions. La nuance est essentielle : accepter davantage un outil et améliorer sa performance sont deux résultats distincts. Une correction peut intégrer une information pertinente absente du modèle, mais elle peut aussi dégrader une estimation ; il faut comparer plutôt que présumer. (nos formations pour cadres et collaborateurs)
Ce que les expériences ne garantissent pas
Ces travaux expérimentaux ne constituent pas une validation générale des systèmes prédictifs employés dans les organisations. Ils n’établissent pas qu’un outil performant en moyenne reste fiable pour chaque population, chaque situation ou après un changement de contexte. Dans l’administration fédérale et la santé publique notamment, la légalité, la traçabilité et la gravité des erreurs ne se réduisent pas à une mesure moyenne de précision.
Une implication pratique, vérifiable à Berne
À Berne, un exercice du programme « Prise de décision » de SHR pourrait porter sur une prévision récurrente sans effet direct sur les droits individuels : charge de dossiers dans l’administration fédérale, besoins logistiques en santé publique, interventions dans les télécoms ou demande de composants dans l’industrie de précision. Avant chaque résultat observé, consigner une estimation humaine indépendante, la prévision brute de l’outil et la prévision éventuellement corrigée, avec le motif de la correction. Sur une période fixée à l’avance, comparer leur erreur absolue moyenne sur exactement les mêmes cas, en conservant aussi les erreurs jugées critiques selon un critère préétabli. Ce contrôle permettrait de vérifier si les corrections apportent une valeur mesurable, plutôt que de décider à partir de la dernière erreur remarquée. Pour aller plus loin : découvrez la formation Prise de décision à Berne dans le canton de Berne, ou parcourez nos formations pour cadres et collaborateurs en Suisse.
En images : Prise de décision à Berne
- prise de décision
- Berne
- recherche
- formation berne