IA on the job: basta un errore per escludere uno strumento?

Quando un'IA sbaglia, il team può metterne in discussione l'impiego ben oltre il caso specifico. La domanda manageriale è precisa: come decidere se proseguirne o sospenderne l'uso senza confondere un errore memorabile con una valutazione della sua affidabilità?

Che cosa stabilisce la letteratura

Berkeley Dietvorst, Joseph Simmons e Cade Massey (2015, Journal of Experimental Psychology: General) mostrano, in esperimenti di previsione, che i partecipanti possono evitare un algoritmo dopo averlo visto sbagliare, anche quando ottiene risultati migliori della persona che formula le previsioni. Osservare gli errori riduce la fiducia nell'algoritmo più di quanto riduca quella nella persona. La decisione di utilizzare uno strumento non ne riflette quindi necessariamente la prestazione comparativa.

Una preferenza che può anche favorire l'algoritmo

Jennifer Logg, Julia Minson e Don Moore (2019, Organizational Behavior and Human Decision Processes) mostrano, in diversi esperimenti di stima, che i partecipanti attribuiscono maggiore peso a un consiglio quando ritengono che provenga da un algoritmo anziché da una persona. Questo risultato non contraddice direttamente il precedente: ricevere un consiglio identificato come algoritmico non equivale a osservare uno strumento che sbaglia. L'etichetta della fonte e l'esperienza dei suoi errori sono due elementi da distinguere.

La conclusione affrettata

Si potrebbe dedurne che occorra insegnare ai team a tollerare gli errori dell'IA per favorirne l'adozione. Significherebbe confondere una reazione psicologica con una regola gestionale: alcuni errori giustificano una sospensione, soprattutto quando compromettono la sicurezza o la riservatezza. Il criterio utile non è la tolleranza in sé, ma la gravità dell'errore e l'affidabilità comparata delle alternative disponibili per lo stesso compito. (i nostri percorsi di formazione per quadri e collaboratori)

Che cosa questi dati non permettono di decidere

Questi studi riguardano giudizi e previsioni in situazioni sperimentali, non l'impiego continuativo di assistenti generativi in un'organizzazione. Non stabiliscono né una soglia di errore accettabile né una regola di validazione per applicazioni nel medtech, nelle scuole universitarie o nello sport. Una preferenza dichiarata per uno strumento non ne dimostra, del resto, né la sicurezza né l'utilità sul posto di lavoro.

Una verifica pratica a Losanna

In un workshop del programma «IA on the job» di SHR a Losanna, proponiamo ai team del medtech, delle scuole universitarie, dello sport internazionale e delle scale-up dell'arco lemanico un esercizio basato su un caso amministrativo fittizio, senza dati sensibili. Assegnare casualmente i partecipanti a due versioni dello stesso dossier, con risultati e un errore identici ma attribuiti a un'IA oppure a una persona, quindi chiedere se desiderano utilizzare nuovamente quella fonte. La misura è la proporzione di risposte favorevoli in ciascun gruppo, accompagnata dalle dimensioni dei gruppi e dai motivi del rifiuto. L'eventuale differenza serve a discutere i criteri di sospensione; non costituisce né una prova di pregiudizio individuale né una validazione dello strumento. Per approfondire: scoprite la formazione IA nel lavoro quotidiano a Losanna, oppure sfogliate i nostri percorsi di formazione per quadri e collaboratori in Svizzera.

In Bildern: IA nel lavoro quotidiano in Losanna

• ia nel lavoro quotidiano
• Losanna
• ricerca
• Weiterbildung losanna