OpenAI Collabore avec METR et Redwood Research pour Évaluer les Systèmes de Surveillance de l'IA

OpenAI a récemment pris une initiative proactive pour améliorer la sécurité de ses systèmes d'IA en invitant des chercheurs externes de METR et Redwood Research à réaliser une évaluation de ses capacités de surveillance. Cette évaluation, qui s'est déroulée sur trois semaines, du 21 juillet au 11 août 2026, visait à identifier les vulnérabilités dans les systèmes internes d'OpenAI conçus pour surveiller les agents d'IA à la recherche de signes de désalignement.

Le rapport résultant de cette évaluation, long de 61 pages, a mis en évidence plusieurs vulnérabilités jusqu'alors non reconnues. Les chercheurs ont bénéficié de droits d'accès élevés à la configuration de surveillance d'OpenAI, leur permettant d'évaluer la couverture du trafic agentique, notamment via l'API Responses et l'agent de codage interne Codex.

Selon les résultats, environ 75 % à 94 % du trafic de l'API Responses était surveillé, tandis que les agents internes Codex affichaient un taux de surveillance plus élevé de 99,2 %. Cependant, le rapport a identifié un écart significatif lié aux événements de compactage, indiquant qu'environ 10 % du trafic interne Codex éligible pourrait être resté non surveillé durant la période d'évaluation.

Depuis, OpenAI a corrigé toutes les vulnérabilités affectant ses mesures de protection en production, soulignant l'importance des audits externes pour identifier les faiblesses que les équipes internes pourraient négliger. Cette collaboration met en lumière une tendance croissante dans la supervision de la sécurité de l'IA, en insistant sur la nécessité de protocoles de surveillance rigoureux à mesure que les systèmes d'IA deviennent de plus en plus autonomes.