Adozione dell’IA: che cosa occorre ancora verificare?
In un team che adotta l’IA, chiedere di «verificare sempre» sembra prudente, ma lascia indefinito il lavoro necessario per questa verifica. La domanda manageriale è più precisa: quali risultati controllare, con quale procedura e come accertare che il controllo rimanga efficace?
Che cosa emerge dalla letteratura
John D. Lee e Katrina A. See (2004, Human Factors) propongono una rassegna della ricerca sulla fiducia nei sistemi automatizzati. La loro analisi distingue la fiducia dalla decisione effettiva di affidarsi a un sistema e sottolinea l’importanza di calibrare la fiducia sulle sue capacità reali. Per chi dirige un team, l’obiettivo non è quindi massimizzare la fiducia, ma rendere esplicite le condizioni alle quali una proposta può essere accettata.
Il meccanismo: delegare può anche indebolire la sorveglianza
Raja Parasuraman e Victor Riley (1997, Human Factors) analizzano gli usi appropriati e inappropriati dell’automazione, compresi l’affidamento eccessivo e il sottoutilizzo. La loro rassegna descrive come una fiducia eccessiva possa condurre a una sorveglianza insufficiente dei risultati automatizzati. Applicato con cautela all’IA, questo meccanismo invita a distinguere l’accettazione di un suggerimento dalla verifica degli elementi che lo giustificano.
La conclusione affrettata
Si potrebbe dedurne che una convalida umana sistematica basti a rendere sicuro l’uso. Una firma, tuttavia, non dimostra né che il controllo sia stato eseguito né che la persona disponesse delle informazioni necessarie per individuare un errore. Occorre definire che cosa confrontare con una fonte indipendente, anziché aggiungere un’approvazione formale a ogni risultato. (i nostri percorsi di formazione per quadri e collaboratori)
I limiti dei dati e delle istruzioni generiche
Entrambi gli articoli sono rassegne sull’automazione anteriori agli attuali strumenti di IA generativa: non ne misurano direttamente l’affidabilità nelle professioni di precisione. Non consentono quindi di stabilire né una quota universale di controlli né un guadagno di produttività atteso. L’istruzione «verificate le risposte» rimane a sua volta incompleta se non precisa i criteri, le fonti accessibili e il tempo dedicato al controllo.
Una verifica pratica a Neuchâtel
Nell’ambito del programma «Conduire l’adoption de l’IA dans son équipe», un’esercitazione a Neuchâtel potrebbe utilizzare sintesi di non conformità tratte da dossier chiusi e autorizzati a questo scopo, nella microtecnica, nell’orologeria o nella microelettronica di precisione, senza effetti sulla produzione. Sullo stesso insieme di risultati proposti, preparati per l’esercitazione e contenenti errori noti soltanto al valutatore, confrontare un’istruzione generica di rilettura con un protocollo che specifichi i riferimenti da controllare e i documenti facenti fede. Per ciascuna modalità, misurare la proporzione di errori inseriti effettivamente individuati e il tempo di controllo per dossier. Questo test locale non certificherebbe lo strumento, ma permetterebbe di verificare se il protocollo migliora l’individuazione degli errori e con quale costo in termini di lavoro. Per approfondire: scoprite la formazione Guidare l'adozione dell'IA nel proprio team a Neuchâtel, oppure sfogliate i nostri percorsi di formazione per quadri e collaboratori in Svizzera.
In Bildern: Guidare l'adozione dell'IA nel proprio team in Neuchâtel
- guidare l'adozione dell'ia nel proprio team
- Neuchâtel
- ricerca
- Weiterbildung neuchâtel