Errori dell’IA: i collaboratori possono davvero segnalarli?

Un collaboratore può individuare un errore in una sintesi prodotta dall’IA ed esitare a segnalarlo, se questo significa mettere in discussione uno strumento sostenuto dalla direzione. Nell’ambito del programma SHR dedicato alla gestione nell’era dell’intelligenza artificiale, la domanda è precisa: come rendere concretamente possibile questa presa di parola?

Che cosa stabilisce la letteratura

Amy Edmondson (1999, Administrative Science Quarterly) rileva un’associazione tra la sicurezza psicologica di un team e i suoi comportamenti di apprendimento. Questa sicurezza indica la convinzione condivisa che nel team sia possibile assumere rischi interpersonali, per esempio riconoscendo un errore o chiedendo aiuto. Applicato all’IA, questo quadro porta a esaminare il costo relazionale di una segnalazione, senza costituire una prova specifica su questi strumenti.

L’apertura del manager, oltre le parole

James R. Detert ed Ethan R. Burris (2007, Academy of Management Journal) mostrano che l’apertura del manager è associata alla disponibilità dei collaboratori a esprimersi per migliorare il funzionamento dell’organizzazione. Le loro analisi individuano nella sicurezza psicologica un meccanismo di questa relazione. Non basta quindi invitare i team a segnalare i problemi: occorre rendere credibile la possibilità di farlo senza un rischio interpersonale eccessivo.

La conclusione troppo rapida

Si potrebbe dedurne che incoraggiare tutti a parlare basti a gestire meglio gli errori dell’IA. Queste ricerche non dimostrano però né che ogni obiezione sia fondata, né che un team con più segnalazioni incontri più malfunzionamenti. Un aumento delle segnalazioni può riflettere una maggiore libertà di parola anziché un peggioramento dello strumento. (i nostri percorsi di formazione per quadri e collaboratori)

Che cosa i dati non consentono di concludere

Questi studi non riguardano l’IA generativa e non permettono di quantificare l’effetto di una procedura di segnalazione in un’azienda zurighese. I loro risultati sul campo non giustificano neppure la promessa che una direttiva manageriale produca, da sola, un cambiamento causale. Infine, un registro vuoto non consente di distinguere l’assenza di errori dall’assenza di segnalazioni.

Una verifica pratica a Zurigo

In un team zurighese dei servizi finanziari, delle assicurazioni, del settore tecnologico o di una sede europea, un’applicazione pratica del programma SHR consiste nello sperimentare per quattro settimane un registro degli errori dell’IA segnalati, senza copiarvi dati riservati. Per ogni caso, annotare la data, il problema osservato, il responsabile della verifica e la risposta motivata, quindi calcolare la percentuale di segnalazioni che hanno ricevuto tale risposta entro cinque giorni lavorativi. Questo termine è una regola proposta per la prova, non una soglia scientifica: l’indicatore verifica la gestione delle segnalazioni, non, da solo, la sicurezza psicologica o l’affidabilità dell’IA. Per approfondire: scoprite la formazione Gestire nell'era dell'intelligenza artificiale a Zurigo, oppure sfogliate i nostri percorsi di formazione per quadri e collaboratori in Svizzera.

In Bildern: Gestire nell'era dell'intelligenza artificiale in Zurigo

• gestire nell'era dell'intelligenza artificiale
• Zurigo
• ricerca
• Weiterbildung zurigo