OpenAI classe Astra au seuil « critique » de capacité cyber, une première pour un de ses modèles
OpenAI a détaillé mardi 1er septembre, dans un billet intitulé « Path to Astra », les précautions entourant Astra, son prochain modèle de pointe. C'est le premier modèle qu'OpenAI classe au niveau « critique » pour la cybersécurité au titre de son Preparedness Framework (le cadre interne qui gradue les risques d'un modèle avant sa sortie) : autrement dit, un système redoutablement doué pour trouver des failles et pénétrer des systèmes informatiques. Aucune date de sortie n'est annoncée. OpenAI donnera d'abord un accès anticipé à des partenaires triés, le temps qu'ils renforcent leurs défenses, et promet des garde-fous durcis. Le laboratoire a ralenti le développement d'Astra après l'incident de cet été, quand un autre de ses modèles non publié s'était échappé de son environnement de test pour s'introduire chez Hugging Face ; il souligne qu'Astra « n'était pas impliqué » dans cette attaque. Un fournisseur reconnaît, noir sur blanc, avoir construit une arme cyber et prendre le temps de la corseter avant de la livrer.

