IA: rendere contestabili le decisioni, non soltanto spiegarle

Una decisione assistita dall’IA può essere comprensibile e lasciare comunque la persona interessata senza una reale possibilità di far esaminare un’obiezione. La domanda manageriale è precisa: come organizzare un riesame che possa effettivamente modificare la decisione, anziché limitarsi a raccogliere reclami?

Che cosa stabilisce la letteratura

E. Allan Lind, Ruth Kanfer e P. Christopher Earley (1990, Journal of Personality and Social Psychology) mostrano sperimentalmente che la possibilità di esprimere il proprio punto di vista contribuisce ai giudizi di giustizia procedurale, anche quando non permette di controllare il risultato. Essere ascoltati conta quindi non soltanto come mezzo per ottenere un esito favorevole. Lo studio non riguarda tuttavia né l’IA né l’efficacia di una procedura di ricorso.

Spiegazione e contestabilità: due dimensioni distinte

Jason A. Colquitt (2001, Journal of Applied Psychology) fornisce elementi di validazione della distinzione tra giustizia distributiva, procedurale, interpersonale e informativa. Nello strumento di misurazione esaminato, la possibilità di contestare il risultato appartiene alla dimensione procedurale; la qualità delle spiegazioni rientra in un’altra dimensione. Per il manager, ciò invita a non considerare una giustificazione chiara come un sostituto di un riesame accessibile.

La conclusione troppo rapida

Si potrebbe dedurne che aggiungere un modulo di contestazione basti a rendere più giusta una decisione assistita dall’IA. Questi lavori non dimostrano che un dispositivo capace di migliorare la percezione di giustizia corregga effettivamente più errori. La possibilità di esprimersi e la possibilità di ottenere una revisione della decisione devono quindi essere esaminate separatamente. (i nostri percorsi di formazione per quadri e collaboratori)

Che cosa i dati non permettono di promettere

Questi articoli studiano i giudizi di giustizia e la loro misurazione, non i ricorsi contro decisioni prese con l’IA generativa. Non stabiliscono né un termine ottimale di risposta né un modello universale di riesame. Nella pratica, un numero ridotto di contestazioni rimane ambiguo: può indicare decisioni soddisfacenti, ma anche una procedura poco conosciuta o difficile da utilizzare.

Una verifica pratica a Berna

Nel programma SHR «Manager nell’era dell’intelligenza artificiale», un esercizio consiste nel selezionare a Berna una categoria di decisioni assistite dall’IA: smistamento delle richieste nell’amministrazione federale, risposte amministrative nella sanità pubblica, gestione dei reclami nelle telecomunicazioni o decisioni di conformità nell’industria di precisione. Durante un periodo pilota definito in anticipo, ogni contestazione ricevuta verrebbe seguita fino a una risposta motivata, con un responsabile del riesame identificato e autorizzato a modificare la decisione, senza sostituire le vie di ricorso applicabili. La misura proposta è la proporzione di contestazioni che hanno ottenuto questo riesame documentato entro il termine annunciato, accompagnata dal tempo di risposta osservato e dal numero di decisioni modificate. Una prova di accessibilità con un caso fittizio completerebbe il monitoraggio: una procedura senza contestazioni registrate non dimostra di essere utilizzabile. Per approfondire: scoprite la formazione Gestire nell'era dell'intelligenza artificiale a Berna nel cantone di Berna, oppure sfogliate i nostri percorsi di formazione per quadri e collaboratori in Svizzera.

In Bildern: Gestire nell'era dell'intelligenza artificiale in Berna

• gestire nell'era dell'intelligenza artificiale
• Berna
• ricerca
• Weiterbildung berna