Adozione dell’IA: sappiamo spiegare ciò che crediamo di capire?
Un team può discutere con disinvoltura di un processo assistito dall’IA senza saperne spiegare i passaggi decisivi. Per il responsabile, la domanda è precisa: come verificare la comprensione necessaria alla delega, al di là della sicurezza manifestata?
Che cosa stabilisce la letteratura
Leonid Rozenblit e Frank Keil (2002, Cognitive Science) mostrano che le persone sovrastimano la propria comprensione dei meccanismi, in particolare quando viene successivamente chiesto loro di produrre una spiegazione dettagliata. Lo sforzo di spiegare rende visibili lacune che l’autovalutazione iniziale non aveva rivelato. Chiedere «hai capito?» non fornisce quindi la stessa informazione che chiedere di ricostruire il funzionamento.
L’accesso a una spiegazione può alterare l’autovalutazione
Matthew Fisher, Mariel Goddu e Frank Keil (2015, Journal of Experimental Psychology: General) mostrano nei loro esperimenti che cercare spiegazioni su Internet può aumentare la stima delle proprie conoscenze, anche su altri argomenti. Il risultato suggerisce che il confine tra risorse accessibili e conoscenze possedute non è sempre percepito chiaramente. Per l’IA, invita a esaminare questa distinzione, senza dimostrare che la conversazione con un modello produca necessariamente lo stesso effetto.
La conclusione affrettata
Se ne potrebbe dedurre che occorra comprendere integralmente uno strumento prima di utilizzarlo; questi lavori non lo dimostrano. La questione manageriale riguarda piuttosto ciò che una persona deve saper spiegare per assumersi la responsabilità del compito affidato: condizioni di ingresso, criteri di riuscita e situazioni che richiedono un’escalation. Non si tratta di esigere la conoscenza dell’architettura del modello, ma una comprensione operativa della delega. (i nostri percorsi di formazione per quadri e collaboratori)
Che cosa questi dati non permettono di concludere
Questi studi non riguardano né gli attuali assistenti generativi né la delega nei team di Losanna. Non forniscono una soglia di comprensione che garantisca un utilizzo sicuro. Una spiegazione esitante può anche riflettere una difficoltà espressiva: va confrontata con una dimostrazione su un caso concreto, anziché trasformata in un giudizio sulla competenza.
Una verifica pratica a Losanna
Nell’ambito del programma SHR «Conduire l’adoption de l’IA dans son équipe», un team di Losanna può sperimentare un compito non sensibile: preparare una nota documentale nel medtech, materiale didattico in una scuola universitaria, una sintesi logistica nello sport internazionale o una risposta a un cliente in una scale-up dell’arco lemanico. Prima della prova, ogni partecipante indica se ritiene di saper spiegare il processo, poi descrive senza l’assistente i dati necessari, il criterio di accettazione e un caso che richiede un’escalation, sulla base di una griglia definita in anticipo. La misura è la proporzione di persone che dichiarano di saper spiegare il processo e che dimostrano effettivamente questi tre elementi su un caso predisposto, conservando risposte e griglia. L’eventuale scarto orienta la formazione; non costituisce né una certificazione di sicurezza né una classifica individuale. Per approfondire: scoprite la formazione Guidare l'adozione dell'IA nel proprio team a Losanna nel canton Vaud, oppure sfogliate i nostri percorsi di formazione per quadri e collaboratori in Svizzera.
In Bildern: Guidare l'adozione dell'IA nel proprio team in Losanna
- guidare l'adozione dell'ia nel proprio team
- Losanna
- ricerca
- Weiterbildung losanna