Adoption de l’IA : faut-il rendre chaque usage traçable ?
Les outils d’IA peuvent laisser des traces détaillées des requêtes, des corrections et des résultats produits. La question managériale est précise : quelles traces faut-il examiner pour maîtriser les risques sans transformer chaque essai en démonstration de conformité ?
Ce que la littérature établit
Ethan Bernstein (2012, Administrative Science Quarterly) étudie, dans un contexte industriel, le paradoxe d’une transparence qui peut entraver l’apprentissage et la performance qu’elle cherche à favoriser. Son étude de terrain montre qu’une protection limitée contre l’observation peut faciliter l’expérimentation et l’amélioration du travail. Ce résultat ne démontre pas qu’il faut soustraire l’IA au contrôle ; il remet en cause l’équivalence entre visibilité accrue et meilleure maîtrise.
Rendre des comptes ne produit pas un effet unique
Jennifer Lerner et Philip Tetlock (1999, Psychological Bulletin) montrent, dans leur revue de littérature, que les effets de l’obligation de rendre des comptes dépendent notamment du moment où elle est annoncée et du destinataire de la justification. Selon les conditions, elle peut encourager un examen plus approfondi ou favoriser l’adaptation à une position attendue. Appliqué à l’IA, ce mécanisme suggère qu’un salarié invité à expliquer ses critères de validation ne reçoit pas la même consigne qu’un salarié dont chaque requête est examinée par son responsable.
La conclusion trop rapide
On pourrait en déduire qu’il faut réduire toute traçabilité pour favoriser l’adoption. Ce serait confondre un espace d’expérimentation protégé avec l’absence de responsabilité sur un résultat utilisé. La distinction utile porte sur la finalité du contrôle : reconstituer une décision sensible n’est pas observer en permanence le cheminement de chaque collaborateur. (nos formations pour cadres et collaborateurs)
Ce que ces données ne permettent pas de trancher
Ces travaux ne portent pas sur l’adoption actuelle de l’IA générative dans les entreprises luganaises. Ils ne fixent ni une durée de conservation des requêtes ni une liste universelle des traces à collecter. Les obligations applicables, la confidentialité des données et le risque associé à chaque usage doivent donc être examinés séparément ; un tableau de bord d’activité ne répond pas à ces questions.
Une implication pratique, vérifiable à Lugano
Dans le cadre du programme SHR « Conduire l’adoption de l’IA dans son équipe », une équipe luganaise pourrait examiner, pendant deux semaines, toutes les demandes managériales d’accès à ses traces d’usage, sans modifier les journaux obligatoires. Dans une banque, une entreprise de mode, une société de négoce ou une PME familiale italophone, chaque demande serait consignée en italien avec sa finalité, la décision à éclairer et les données effectivement nécessaires. La mesure serait la proportion de demandes débouchant sur une action documentée de correction, de validation ou de maîtrise d’un risque, plutôt que sur un simple constat d’activité. Ce rapport ne prouverait pas l’efficacité du contrôle, mais permettrait de discuter, sur pièces, les consultations de traces dont la finalité reste indéterminée. Pour aller plus loin : découvrez la formation Conduire l'adoption de l'IA dans son équipe à Lugano dans le canton du Tessin, ou parcourez nos formations pour cadres et collaborateurs en Suisse.
En images : Conduire l'adoption de l'IA dans son équipe à Lugano
- conduire l'adoption de l'ia dans son équipe
- Lugano
- recherche
- formation lugano