Accueil › Blog › Vérifier ce que produit une IA

Vérifier ce que produit une IA : la compétence qui prend de la valeur

Publié le 24 septembre 2026 · par Amine, AI business analyst en CAC 40 · 7 min de lecture

Une IA ne te dit jamais « je ne sais pas ». Elle répond. Toujours, avec assurance, dans une phrase parfaitement construite. Le problème, c'est qu'elle ne fait pas la différence entre ce qu'elle sait et ce qu'elle invente — et que cette différence, deux tribunaux l'ont déjà chiffrée en dollars.

Pourquoi une IA sûre d'elle se trompe sans le savoir

Pour comprendre pourquoi vérifier est devenu indispensable, il faut se débarrasser d'une idée fausse : celle qu'une IA « sait » des choses. Une IA générative ne stocke pas des faits comme une encyclopédie. Elle a été entraînée sur des milliards de textes pour prédire, à chaque étape, le mot suivant le plus probable. Le résultat, c'est un texte fluide, cohérent, et parfois entièrement faux.

Ce qui rend la chose traîtresse, c'est qu'elle est calibrée pour l'assurance. La réponse inventée a exactement la même forme, le même ton, la même structure argumentative qu'une réponse exacte. Rien, dans le texte, ne signale que la machine vient de fabriquer une référence qui n'existe pas ou un chiffre qui n'est nulle part. Et la machine, elle, n'en a aucune idée : elle n'a aucun mécanisme interne pour se dire « là, je me suis trompée ».

Le mot « hallucination » est d'ailleurs trompeur, parce qu'il suggère un accident rare. Ce n'est pas un accident : c'est le fonctionnement normal du système, qui se manifeste dès qu'on lui demande quelque chose de précis et de vérifiable.

Deux procès qui ont donné un prix à l'erreur

Les premiers à l'avoir appris à leurs dépens sont des professionnels du droit, c'est-à-dire des gens dont le métier repose précisément sur l'exactitude.

En 2023, dans l'affaire Mata v. Avianca, deux avocats new-yorkais ont soumis au tribunal un mémoire contenant six jurisprudences que ChatGPT avait inventées de toutes pièces. Non seulement les arrêts n'existaient pas, mais l'avocat a persisté après qu'on lui a demandé de les produire. Le juge P. Kevin Castel, de la cour fédérale du district sud de New York, a sanctionné les avocats et leur cabinet à hauteur de 5 000 $. La décision est consultable en ligne, et elle a fait le tour du monde pour une raison simple : c'était la première fois qu'un tribunal chiffrait le coût d'une confiance aveugle dans un texte produit par une IA.

Un an plus tard, en février 2024, le tribunal des petites créances de la Colombie-Britannique a condamné Air Canada pour négligence dans une fausse déclaration (Moffatt v. Air Canada, 2024 BCCRT 149). Un passager, Jake Moffatt, avait demandé au chatbot du site si le tarif deuil pouvait être demandé rétroactivement après l'achat d'un billet. Le chatbot avait répondu que oui, avec une confiance totale. Le passager a donc payé le tarif plein, autour de 1 630 dollars canadiens, au lieu du tarif deuil d'environ 760 dollars. Le tribunal a tranché : Air Canada est responsable de ce que dit son propre chatbot, et l'a condamnée à payer 650,88 $ de dommages, plus intérêts et frais, soit environ 812 $ au total.

Retiens la logique de ces deux affaires, parce qu'elle te concerne directement. Dans les deux cas, personne n'a cherché à savoir si « l'IA » était coupable. La responsabilité est retombée sur l'humain qui s'était contenté de recopier sans vérifier. La machine fournit, l'humain répond.

Combien de fois, vraiment ?

On pourrait croire que ces deux affaires sont des cas extrêmes. Les chiffres disent le contraire.

En janvier 2024, des chercheurs de Stanford et de Yale ont publié une étude intitulée Large Legal Fictions dans le Journal of Legal Analysis. Ils ont testé plusieurs modèles de langage sur des questions précises et vérifiables de jurisprudence américaine. Résultat : les modèles hallucinaient sur 58 % à 88 % des questions, selon le modèle et le type de tâche. Ce n'est pas une marge d'erreur. C'est la majorité des réponses, sur un domaine où l'on ne peut pas se permettre l'à-peu-près.

Et le droit n'est pas un cas isolé, c'est simplement le cas le mieux mesuré, parce qu'on y dispose de réponses objectives. Partout où une question a une réponse vérifiable — un chiffre, une date, une source, un montant — le même phénomène se reproduit. La machine répond, et une partie non négligeable de ce qu'elle répond est fabriquée.

Pourquoi vérifier est une compétence, pas un réflexe

On pourrait se dire que « vérifier » est une évidence, un truc qu'on fait naturellement. C'est faux, pour une raison précise : la vérification va à contre-courant de tout ce que la machine est conçue pour déclencher chez toi.

Une IA générative est optimisée pour produire du texte qui sonne juste. Elle déploie une syntaxe impeccable, des transitions propres, une structure argumentative convaincante. Ton cerveau, lui, a un biais bien documenté : il a tendance à prendre la fluidité pour de la vérité. Plus un texte est fluide et assuré, moins on le remet en question. Vérifier, c'est donc lutter activement contre ce réflexe, et c'est un effort.

Voilà pourquoi c'est une compétence au sens professionnel du terme : ça s'apprend, ça se répète, et ça sépare de plus en plus deux catégories de salariés. Ceux qui recopient ce que la machine produit, et ceux qui savent ce qu'il faut contrôler avant de s'en servir. Les premiers vont perdre la course, non pas parce que l'IA les remplace, mais parce qu'ils deviennent les transmetteurs d'erreurs dont ils portent la responsabilité. Les seconds gagnent du temps sans en perdre en fiabilité.

Et cette compétence prend de la valeur à mesure que l'IA se généralise. Quand tout le monde peut produire un texte en trente secondes, ce qui devient rare, ce n'est pas la production — c'est la garantie que le texte est exact.

La méthode en cinq contrôles

Voici une méthode que tu peux appliquer en quelques minutes, à chaque fois qu'une IA te livre quelque chose que tu vas réutiliser : un chiffre dans un rapport, une réponse à un client, un argument dans un mémoire, une date dans un planning.

Premier contrôle — la source existe-t-elle ? Si l'IA cite une étude, un arrêt, un organisme, va voir si cette référence existe réellement. C'est le contrôle qui a manqué à l'avocat de Mata v. Avianca, et c'est le plus rapide à faire : une recherche suffit.

Deuxième contrôle — la date tient-elle ? Les chiffres ont un âge. Un taux d'il y a cinq ans n'est pas un taux d'aujourd'hui. Demande-toi de quand date la donnée, et si elle est encore valable dans le contexte où tu l'utilises.

Troisième contrôle — le nombre est-il recoupé ? Un chiffre isolé est invérifiable. Le même chiffre trouvé dans deux sources indépendantes commence à devenir fiable. Ne te contente jamais d'une seule occurrence, surtout si c'est l'IA qui te l'a fournie.

Quatrième contrôle — le calcul tient-il ? Si la réponse contient un calcul, un pourcentage, une conversion, refais-le toi-même. C'est là que les erreurs les plus grossières se glissent, parce qu'elles ont l'air mathématiques donc exactes.

Cinquième contrôle — qu'est-ce qui manque ? La réponse est cohérente avec ce que tu sais du sujet ? Elle n'omet rien d'important qui changerait la conclusion ? Une réponse peut être exacte dans ses faits et fausse dans ce qu'elle suggère, simplement parce qu'elle tait un élément.

Cinq contrôles, quelques minutes, et tu écartes la grande majorité des erreurs sans renoncer au gain de temps que l'IA t'apporte. L'objectif n'est pas de tout vérifier avec une méfiance paranoïaque : c'est de savoir quoi vérifier, vite, et systématiquement.

Ce que ça change pour ton travail

Il y a deux façons de lire cette situation. La première, c'est de se dire que l'IA est dangereuse et qu'il faut s'en méfier. La seconde, et c'est la bonne, c'est de comprendre que la fiabilité devient un différenciateur.

Le jour où ton équipe, ton manager ou ton client découvre qu'il ne peut pas faire confiance à ce que tu produis sans le re-vérifier lui-même, tu as perdu la moitié de ta valeur. À l'inverse, celui qui livre du travail produit avec l'IA mais déjà contrôlé devient le point de confiance de son organisation. Il ne fournit pas seulement du texte : il fournit de la certitude.

Ce n'est pas un discours théorique. C'est exactement ce que les deux décisions de justice racontent : la responsabilité ne se délègue pas à la machine. Elle reste sur toi. La bonne nouvelle, c'est que la compétence qui permet de l'assumer est simple à acquérir, et qu'elle te distingue immédiatement de la masse de ceux qui recopient sans lire.

Questions fréquentes

Écrit par Amine Lounnas

AI business analyst depuis cinq ans dans des grands groupes du CAC 40 — banque, assurance, énergie. Certifié DPO et CIPP/E. Mon métier consiste à identifier quelles tâches une entreprise peut automatiser ; ce site retourne cette méthode vers les salariés.

Qui écrit ici, et comment →