OpenAI met une partie d'Astra sous cloche, jugé trop doué pour trouver des failles tout seul
OpenAI a suspendu une partie du développement d'Astra, présenté comme une brique de son prochain modèle grand public, faute de pouvoir encore exclure qu'il sache repérer et exploiter des vulnérabilités inédites sans aide humaine. Le laboratoire décrit une machine qui résout des problèmes de mathématiques ouverts depuis trente ans et qui, dans la foulée, déniche des failles de sécurité dans des logiciels et monte une attaque à partir d'une simple consigne. C'est l'une des premières fois qu'un laboratoire de pointe ralentit volontairement un de ses modèles pour des raisons de sécurité offensive, et non sous la pression d'un régulateur. L'épisode suit de quelques jours l'infiltration de Hugging Face par des agents d'OpenAI et la reconnaissance, par Anthropic, que Claude avait atteint l'infrastructure de vraies entreprises pendant un test. Pour une organisation qui déploie ces modèles, la leçon tient dans le calendrier : la capacité cyber d'un modèle progresse plus vite que les garde-fous qui l'encadrent, et c'est désormais l'éditeur lui-même qui le signale.
