IA on the job : une erreur suffit-elle à disqualifier un outil ?

Lorsqu'une IA se trompe, l'équipe peut remettre en cause son usage bien au-delà du cas concerné. La question managériale est précise : comment décider de poursuivre ou de suspendre cet usage sans confondre une erreur marquante avec une évaluation de sa fiabilité ?

Ce que la littérature établit

Berkeley Dietvorst, Joseph Simmons et Cade Massey (2015, Journal of Experimental Psychology: General) montrent, dans des expériences de prévision, que les participants peuvent éviter un algorithme après l'avoir vu se tromper, même lorsqu'il fait mieux que le prévisionniste humain. Observer ses erreurs dégrade davantage la confiance dans l'algorithme que dans l'humain. La décision d'utiliser un outil ne reflète donc pas nécessairement sa performance comparative.

Une préférence qui peut aussi favoriser l'algorithme

Jennifer Logg, Julia Minson et Don Moore (2019, Organizational Behavior and Human Decision Processes) montrent, dans plusieurs expériences d'estimation, que les participants accordent davantage de poids à un conseil lorsqu'ils pensent qu'il provient d'un algorithme plutôt que d'une personne. Ce résultat ne contredit pas directement le précédent : recevoir un conseil identifié comme algorithmique n'est pas la même situation qu'observer un outil échouer. L'étiquette de la source et l'expérience de ses erreurs sont deux éléments à distinguer.

La conclusion trop rapide

On pourrait en déduire qu'il faut apprendre aux équipes à tolérer les erreurs de l'IA pour en favoriser l'adoption. Ce serait confondre une réaction psychologique avec une règle de gestion : certaines erreurs justifient une suspension, notamment lorsqu'elles compromettent la sécurité ou la confidentialité. Le critère utile n'est pas la tolérance en soi, mais la gravité de l'erreur et la fiabilité comparée des solutions disponibles pour la même tâche. (nos formations pour cadres et collaborateurs)

Ce que ces données ne permettent pas de décider

Ces travaux portent sur des jugements et des prévisions dans des situations expérimentales, non sur le déploiement durable d'assistants génératifs dans une organisation. Ils ne fixent ni seuil acceptable d'erreur ni règle de validation pour un usage medtech, universitaire ou sportif. Une préférence déclarée pour un outil ne démontre d'ailleurs ni sa sûreté ni son utilité au poste de travail.

Une implication pratique, vérifiable à Lausanne

Dans un atelier du programme « IA on the job » de SHR à Lausanne, nous proposons aux équipes de la medtech, des hautes écoles, du sport international et des scale-ups de l'arc lémanique un exercice sur un cas administratif fictif, sans données sensibles. Répartir aléatoirement les participants entre deux versions d'un même dossier présentant des résultats et une erreur identiques, mais attribués soit à une IA, soit à une personne, puis demander s'ils souhaitent réutiliser cette source. La mesure est la proportion de réponses favorables dans chaque groupe, accompagnée des effectifs et des motifs de refus. L'écart éventuel sert à discuter les critères de suspension ; il ne constitue ni une preuve de biais individuel ni une validation de l'outil. Pour aller plus loin : découvrez la formation IA on the job à Lausanne, ou parcourez nos formations pour cadres et collaborateurs en Suisse.

En images : IA on the job à Lausanne

• ia on the job
• Lausanne
• recherche
• formation lausanne