Assistenti IA: poter correggere favorisce l’adozione?
Nel programma «Creare i propri assistenti e agenti IA senza programmare» di SHR — Swiss Human Resources, la progettazione riguarda anche il ruolo dell’utente nella definizione del risultato finale. La domanda manageriale è precisa: consentire di modificare una proposta aiuta a mantenere l’utilizzo di un assistente dopo un errore visibile?
Che cosa stabilisce la letteratura
Berkeley Dietvorst, Joseph Simmons e Cade Massey (2015, Journal of Experimental Psychology: General) mostrano, in esperimenti di previsione, che i partecipanti possono abbandonare un algoritmo dopo averlo visto sbagliare, anche quando continua a fornire previsioni migliori di quelle umane. Osservarne gli errori compromette la fiducia più di quanto accada osservando errori umani. La prestazione comparativa, da sola, non basta quindi a spiegare la scelta di utilizzare uno strumento.
Il margine di correzione come meccanismo
Berkeley Dietvorst, Joseph Simmons e Cade Massey (2018, Management Science) mostrano che consentire ai partecipanti di modificare le previsioni di un algoritmo, anche in misura limitata, aumenta la loro disponibilità a utilizzarlo. I risultati suggeriscono che avere un certo controllo sul risultato può contare più della piena libertà di modificarlo. Per un assistente senza codice, questo invita a distinguere una proposta modificabile da un risultato che può soltanto essere accettato o rifiutato.
La conclusione troppo rapida
Si potrebbe dedurre che tutti i risultati debbano essere liberamente modificabili. Questi studi, tuttavia, non dimostrano né che ogni correzione umana migliori il risultato, né che una maggiore adozione garantisca decisioni migliori. Il margine di correzione è un’ipotesi progettuale da verificare, non una prova di qualità. (i nostri percorsi di formazione per quadri e collaboratori)
I limiti della trasferibilità dei dati
Questi esperimenti riguardano previsioni algoritmiche, non assistenti generativi integrati nei processi aziendali. Modificare un valore previsto non equivale a riscrivere la sintesi di un dossier o una risposta a un cliente. Soprattutto nei servizi finanziari e nelle assicurazioni, la possibilità tecnica di modificare un testo non conferisce l’autorità necessaria per approvarlo.
Una verifica pratica a Zurigo
In un team zurighese dei servizi finanziari, delle assicurazioni, del settore tecnologico o di una sede europea, un esercizio del programma può confrontare due interfacce dello stesso assistente per la preparazione di note interne, utilizzando dossier fittizi o anonimizzati. Dopo aver presentato la stessa proposta contenente un errore segnalato, assegnare casualmente un’interfaccia che consenta soltanto di accettare o rifiutare, oppure una che permetta anche di correggere. Misurare quindi il tasso di riutilizzo volontario sul dossier successivo e far valutare alla cieca la qualità delle note finali secondo una griglia comune. Un tasso di riutilizzo superiore senza peggioramento della qualità sosterrebbe localmente l’utilità della possibilità di correggere, senza dimostrarne il valore per tutte le professioni. Per approfondire: scoprite la formazione Creare assistenti e agenti IA senza programmare a Zurigo, oppure sfogliate i nostri percorsi di formazione per quadri e collaboratori in Svizzera.
In Bildern: Creare assistenti e agenti IA senza programmare in Zurigo
- creare assistenti e agenti ia senza programmare
- Zurigo
- ricerca
- Weiterbildung zurigo