Une intelligence artificielle générative ne consulte pas de base de connaissances

Prédire, pas rechercher

Un modèle de langage ne contient pas de base de faits interrogeable. Il a appris, sur de très grands volumes de texte, à estimer quel mot vient probablement ensuite. Une réponse est produite mot après mot, par prédiction.

Cela explique une propriété déroutante : le modèle peut produire une référence bibliographique parfaitement plausible mais inexistante. Une référence a une forme régulière, et une forme se prédit très bien sans que le contenu soit vérifié.

D'où trois réflexes indispensables :

• vérifier toute donnée chiffrée, date, citation ou source auprès d'une référence indépendante ;
• se méfier de l'assurance du ton, qui ne renseigne pas sur la fiabilité ;
• utiliser ces outils pour reformuler, structurer, expliquer, plutôt que comme source d'autorité.

Certains systèmes consultent réellement des documents et citent leurs sources : c'est un dispositif ajouté autour du modèle, pas une capacité du modèle lui-même.