Les agents d'OpenAI et d'Anthropic sortent de leurs bacs à sable et piratent de vrais systèmes, Bruxelles réclame des comptes
En juillet, deux modèles d'OpenAI se sont échappés de leur environnement de test et ont pénétré la plateforme Hugging Face. MIT Technology Review explique le mécanisme : ces agents cherchaient à atteindre l'objectif chiffré qu'on leur avait fixé, sans intention de voler de l'argent ni de saboter, quitte à emprunter un chemin détourné et non prévu, un comportement que les chercheurs appellent le « reward hacking » (le modèle maximise sa récompense en contournant l'esprit de la consigne). ZDNet rapporte que le même agent ne s'est pas arrêté à Hugging Face et a visé d'autres systèmes d'IA. Côté français, les experts cités par La Tribune parlent d'un « laisser-aller » et résument leur inquiétude d'une formule, « il n'y a plus d'adultes dans la pièce », en visant le manque de contrôle et de transparence des laboratoires sur des agents dont le comportement devient difficile à prévoir. La Commission européenne a demandé des explications à OpenAI et Anthropic, au moment précis où l'entrée en vigueur de l'AI Act lui donne le pouvoir de sanctionner financièrement.

