Strumenti predittivi: perché un errore non basta a squalificarli
Un responsabile dovrebbe abbandonare uno strumento predittivo dopo un errore evidente, quando le sue prestazioni comparative restano favorevoli? Per il programma «Prise de décision» dedicato al processo decisionale di SHR — Swiss Human Resources, questa domanda invita a distinguere fiducia, accettazione e qualità misurata.
Che cosa stabilisce la letteratura
Berkeley J. Dietvorst, Joseph P. Simmons e Cade Massey (2015, Journal of Experimental Psychology: General) mostrano, in esperimenti di previsione, che i partecipanti possono evitare un algoritmo dopo averlo visto commettere errori, anche quando fornisce previsioni migliori di quelle umane. Osservarne le imperfezioni può quindi scoraggiare l’uso di uno strumento comparativamente più efficace. Il punto importante non è che lo strumento sia infallibile, ma che i suoi errori e quelli umani non ricevono necessariamente lo stesso trattamento.
Il controllo come condizione di accettazione
Berkeley J. Dietvorst, Joseph P. Simmons e Cade Massey (2018, Management Science) mostrano che consentire ai partecipanti di modificare una previsione algoritmica, anche leggermente, può accrescerne la disponibilità a utilizzarla. Un margine di intervento limitato può dunque rendere accettabile uno strumento riconosciuto come imperfetto. Questo risultato riguarda le condizioni del suo utilizzo; non dimostra che ogni correzione umana migliori la previsione.
La conclusione troppo rapida
Si potrebbe dedurne che basti consentire ai responsabili di correggere i risultati per ottenere decisioni migliori. La distinzione è essenziale: una maggiore accettazione dello strumento e un miglioramento delle prestazioni sono due risultati diversi. Una correzione può integrare informazioni pertinenti assenti dal modello, ma può anche peggiorare una stima; occorre confrontare, non presumere. (i nostri percorsi di formazione per quadri e collaboratori)
Che cosa non garantiscono gli esperimenti
Questi studi sperimentali non costituiscono una validazione generale dei sistemi predittivi utilizzati nelle organizzazioni. Non stabiliscono che uno strumento efficace in media rimanga affidabile per ogni popolazione, in ogni situazione o dopo un cambiamento di contesto. Soprattutto nell’amministrazione federale e nella sanità pubblica, la legalità, la tracciabilità e la gravità degli errori non possono essere ridotte a una misura media di accuratezza.
Una verifica pratica a Berna
A Berna, un esercizio del programma «Prise de décision» di SHR potrebbe riguardare una previsione ricorrente senza effetti diretti sui diritti individuali: volume delle pratiche nell’amministrazione federale, esigenze logistiche nella sanità pubblica, interventi nelle telecomunicazioni o domanda di componenti nell’industria di precisione. Prima di osservare ciascun risultato, registrare una stima umana indipendente, la previsione non modificata dello strumento e l’eventuale previsione corretta, indicando il motivo della correzione. Su un periodo stabilito in anticipo, confrontare il loro errore assoluto medio sugli stessi identici casi, conservando anche una registrazione degli errori considerati critici secondo un criterio predefinito. Questa verifica permetterebbe di accertare se le correzioni apportano un valore misurabile, anziché decidere sulla base dell’ultimo errore evidente. Per approfondire: scoprite la formazione Processo decisionale a Berna nel cantone di Berna, oppure sfogliate i nostri percorsi di formazione per quadri e collaboratori in Svizzera.
In Bildern: Processo decisionale in Berna
- processo decisionale
- Berna
- ricerca
- Weiterbildung berna