Les fractures de l’IA de pointe : pourquoi l’IA a besoin d’un point d’appui
Cinq modèles d’IA de pointe, soumis au même exercice de vérification des faits, étaient en désaccord sur 67 % des affirmations issues du monde réel. Une réflexion sur les résultats de Lenz Research — et sur les raisons pour lesquelles ancrer le raisonnement des modèles dans des sources vérifiables change la nature du problème.
Que signifie « savoir » quelque chose pour un système, si cinq versions de ce système, raisonnant à partir de la même question, aboutissent à cinq réponses différentes ?
Une nouvelle étude de Lenz Research (2026) a demandé à cinq modèles de pointe de vérifier un millier d’affirmations réelles formulées par des utilisateurs, et a constaté que, dans 67 % des cas, ils ne s’accordaient pas. Pour un tiers de l’ensemble des affirmations, les verdicts de deux modèles étaient séparés d’au moins deux catégories, alors même qu’il s’agit de systèmes que nous considérons généralement comme étant à la pointe. Si les verdicts tranchés Vrai et Faux étaient beaucoup plus cohérents, les affirmations plus nuancées donnaient lieu à des divergences presque exclusivement dans les catégories intermédiaires ; et soyons honnêtes, c’est là que se situent réellement la plupart des sujets lourds de conséquences.
Pourquoi cela se produit-il ?
Les grands modèles de langage ne retrouvent pas tant des faits qu’ils n’en reconstruisent des récits plausibles, pondérés par les régularités présentes dans les informations qu’ils ont assimilées ou récupérées. Et cet environnement informationnel n’est pas un échantillon neutre du savoir humain. Il s’agit d’un corpus à l’échelle du Web dans lequel les contenus suscitant un fort engagement sont structurellement surreprésentés, les informations qui se propagent de manière virale sur les réseaux sociaux façonnant le paysage probabiliste à partir duquel les systèmes d’IA raisonnent ensuite. Une rumeur partagée dix mille fois fournit davantage de signaux d’entraînement qu’un rectificatif partagé deux cents fois. Ainsi, lorsque vous posez à cinq modèles de pointe une question portant sur une affirmation ambiguë et contestée, du genre de celles qui ont fait l’objet de débats houleux sur Internet, vous obtenez cinq reconstructions légèrement différentes du bruit environnant, chacune cohérente en elle-même, aucune manifestement erronée, et aucun moyen clair de les départager. Des modèles plus performants ne résolvent pas ce problème, car une reconstruction plus assurée reste une reconstruction.
Un exemple du caractère problématique de cette situation a été rapporté dans un audit de NewsGuard réalisé en 2024, qui a testé dix agents conversationnels d’IA de premier plan face à des récits de désinformation russes dont l’origine avait été masquée par leur diffusion via un réseau de faux sites d’information locale. Les agents conversationnels ont répété ces faux récits environ un tiers du temps, traitant souvent les médias locaux fictifs, ou les affirmations associées sur YouTube, comme des sources crédibles. En ce sens, le problème n’est pas seulement que l’IA peut générer des contrevérités, mais qu’elle peut hériter de contrevérités auxquelles on a déjà donné l’apparence de connaissances fiables, puis les réorganiser.
C’est dans ce contexte que je trouve véritablement intéressante la construction d’infrastructures permettant une communication vérifiable ; l’idée étant que les organisations puissent prouver par des moyens cryptographiques ce qu’elles ont publié, et que les systèmes d’IA puissent vérifier les affirmations directement auprès de cette source originale, plutôt qu’à partir de la reconstruction, par un modèle, de ce que d’autres ont dit.
Dans l’exemple ci-dessus, la désinformation n’avait pas besoin de persuader directement l’ensemble du public : il lui suffisait d’être disponible sous une forme que la machine pouvait récupérer, résumer et citer. Et même si les modèles s’améliorent dans l’utilisation de sources à privilégier, un modèle ancré dans un enregistrement horodaté et authentifié de ce qu’une institution a réellement publié opère dans un registre épistémique différent de celui d’un modèle qui raisonne à partir de données d’entraînement saturées des répercussions de l’affirmation originale sur les réseaux sociaux.
Que faut-il en retenir ?
Le discours selon lequel les modèles plus grands convergent vers de meilleures réponses exerce actuellement une influence considérable dans les conseils d’administration et les milieux de la décision publique, et les résultats de Lenz suggèrent que cette convergence est nettement plus superficielle que ce discours ne le laisse entendre. À mesure que l’IA joue un rôle croissant dans la manière dont l’information est relayée, l’écart entre ce qu’un modèle pense être vrai et ce qui est vrai de façon vérifiable devient plus difficile à ignorer. Ancrer le raisonnement des modèles dans des sources vérifiables ne comble pas cet écart en rendant l’IA plus intelligente, mais en changeant la nature du problème : on passe de l’inférence à partir d’un bruit pondéré par l’engagement à la vérification auprès d’une source connue.
Et cette distinction compte davantage qu’il n’y paraît au premier abord.
Pour les organisations, il ne s’agit pas seulement d’une question épistémologique abstraite : cela change fondamentalement les conditions dans lesquelles la communication doit opérer. Une déclaration publique, un communiqué de presse, une affirmation concernant un produit ou un point de situation en période de crise ne reste plus uniquement sur le site Web de l’organisation, en attendant d’être lu dans son contexte. Ce contenu peut être extrait automatiquement, résumé, traduit, cité, contesté et réassemblé en réponses par des systèmes que les utilisateurs considèrent de plus en plus comme des interfaces avec leur réalité. Et dans cet environnement, la question n’est pas seulement de savoir si l’organisation a communiqué avec exactitude, mais si sa communication peut encore être reconnue, vérifiée et distinguée du bruit qui s’accumule autour d’elle.
Sources
- Lenz Research (2026). 67% of real fact-checks, top AI models don’t agree on the answer. Accessed 29/05/2026.
- Sadeghi, M. & Blanchez, I. (2024). Top 10 generative AI models mimic Russian false claims a third of the time, citing Moscow-created fake local news sites as authoritative sources. NewsGuard. Accessed 29/05/2026.