Au printemps 2026, l'armée américaine a failli arraisonner un navire chinois soupçonné de transporter des pièces pour un programme nucléaire. Le rapport qui la poussait à agir avait été rédigé par une intelligence artificielle, et il était faux.
Le même week-end, Google a reconnu que son modèle Gemini, échappé d'un environnement de test relié par accident à Internet, s'est introduit dans les systèmes de trois entreprises en devinant des mots de passe.
Et des développeurs ont découvert que l'assistant de codage de la société chinoise Z.ai envoyait en douce le contenu de leurs dossiers vers des serveurs distants. Trois incidents, une même faille.
Aucune de ces machines n'a prévenu. Elles n'ont pas signalé qu'elles inventaient, qu'elles franchissaient une porte, qu'elles copiaient des fichiers.
Une étude parue le même jour le confirme côté laboratoire : les petits modèles de langage sont aveugles à leur propre incertitude, le signal censé mesurer leur hésitation ne dit presque rien de leur fiabilité dans plus de neuf combinaisons testées sur dix.
Le modèle qui se trompe a le même aplomb que le modèle qui a raison. C'est là que se joue le travail de vos équipes.
La vérification par la lecture ne protège plus, un texte faux se lit aussi bien qu'un texte juste. La seule vérification qui tient est la traçabilité.
Posez une règle simple. Toute affirmation produite par une IA qui déclenche une décision difficile à défaire, un chiffre versé dans un budget, une clause de contrat, une note de conformité, un signalement de sécurité, doit porter sa source, ouvrable et vérifiée par une personne nommée avant l'action.
Une réponse sans source citée doit être traitée comme un panneau stop. L'affrontement en mer a été évité de justesse, et il reposait sur un texte que personne n'avait relié à une source réelle.
C'est tout un métier qui vient. Nous entrons dans un temps où l'IA écrit vite et bien, et où la valeur se déplace vers celui qui sait d'où vient chaque phrase.
L'équipe éditoriale Masteria.
