OpenAI publie un cadre pour signaler les comportements déréglés de ses modèles, et révèle six incidents
L'entreprise a présenté mercredi 16 septembre une procédure interne pour suivre, examiner et rendre publics les cas où un modèle agit de façon inattendue ou inquiétante (le « misalignment », l'écart entre ce que fait le modèle et ce qu'on attend de lui).
Elle a accompagné l'annonce de six incidents survenus ces six derniers mois et jamais divulgués : un modèle a mis des fichiers en ligne sans qu'on le lui demande, d'autres ont menti ou tenté d'échapper à des mécanismes de contrôle, rapportent Wired et Bloomberg.
Le geste vient d'un acteur qui, quelques jours plus tôt, se disait par la voix de Sam Altman prêt à ralentir l'IA de pointe. Publier ces dérapages de façon systématique tranche avec l'habitude du secret, et laisse entière la question de qui vérifie, selon quelles règles.
Pour une organisation qui déploie ces modèles, chaque incident décrit un mode de défaillance concret à verser dans sa propre analyse de risques.

