L'IA se trompe : comment repérer ses erreurs et vérifier ses réponses.
Les assistants d'IA inventent parfois des faits, des chiffres ou des références avec beaucoup d'assurance. Comment le repérer, et les tâches où il faut être prudent.
Par Roman Blum·Fondateur de SIEKLE
Un assistant d'IA rédige un texte plausible. Plausible ne veut pas dire exact. Il peut inventer un chiffre, une loi, une décision de justice ou une caractéristique de produit, sans le signaler.
Les tâches à risque.
- Les chiffres : calculs, statistiques, prix.
- Les références : lois, jurisprudences, normes, sources.
- Les faits précis : dates, noms, caractéristiques techniques.
- Les sujets récents, que l'outil peut ignorer.
Les tâches plus sûres.
Reformuler, résumer un texte que vous lui donnez, structurer, traduire, proposer des idées. L'IA travaille alors sur votre matière.
Comment vérifier.
- Demandez-lui ses sources, puis ouvrez-les vous-même.
- Contrôlez les chiffres dans vos outils.
- Donnez-lui le document de référence plutôt que de la laisser répondre de mémoire.
- Demandez-lui de dire quand elle ne sait pas.
La règle simple.
Tout ce qui part chez un client, engage l'entreprise ou repose sur un chiffre se relit et se vérifie.
Pour aller plus loin.
La vérification fait partie du programme de la formation IA à Avignon. Les questions de confidentialité sont dans IA et données de l'entreprise.