Un assistant IA sait-il quand il ne sait pas ?
Un assistant IA sait-il quand il ne sait pas ? — ce que montrent les études, et ce qu'elles ne montrent pas.
La recherche
Saurav Kadavath et ses collègues (2022, arXiv) montrent que de grands modèles de langage peuvent estimer assez bien la probabilité que leur réponse soit correcte, surtout sur des formats à choix multiples.
La limite
Prépublication, non évaluée par les pairs, résultats liés aux modèles testés.
La nuance
Cette calibration se dégrade sur des questions ouvertes ou hors domaine. (nos formations pour cadres et collaborateurs)
Implication pratique, vérifiable à Bâle
Demander à l'assistant d'indiquer son niveau de certitude et vérifier systématiquement les réponses marquées incertaines. Pour aller plus loin : découvrez la formation Créer ses assistants et agents IA sans coder à Bâle, ou parcourez nos formations pour cadres et collaborateurs en Suisse.
En images : Créer ses assistants et agents IA sans coder à Bâle
- créer ses assistants et agents ia sans coder
- Bâle
- recherche
- formation bâle