Des chercheurs d'OpenAI critiquent l'entreprise pour sa priorité au profit plutôt qu'à la sécurité dans une lettre ouverte

Trois chercheurs en sécurité d'OpenAI, Jasmine Wang, Tomek Korbak et Mikita Balesni, ont été licenciés aux alentours du 1er octobre 2026 pour avoir prétendument partagé des documents confidentiels avec une organisation externe de sécurité de l'IA. Les chercheurs soutiennent que leurs actions faisaient partie de leurs responsabilités professionnelles, notamment en raison du rôle précédent de Korbak en tant que liaison avec des groupes de sécurité externes.

Le 8 octobre, le trio a envoyé une lettre ouverte au conseil d'administration et aux comités de sécurité d'OpenAI, qui a depuis été publiée en ligne. La lettre met en garde contre les risques associés à la perte de la surveillance de la "chaîne de pensée", un processus qui permet aux chercheurs en sécurité de suivre le raisonnement intermédiaire des modèles d'IA. Ils soutiennent que l'industrie manque de clarté sur la manière de construire et de déployer des modèles en toute sécurité sans supervision humaine.

Les chercheurs ont proposé deux solutions clés : favoriser la collaboration à l'échelle de l'industrie sur la surveillance des modèles et impliquer des auditeurs de sécurité indépendants. Cependant, OpenAI a maintenu que les licenciements n'étaient pas liés à l'engagement des chercheurs en faveur de la sécurité, affirmant que les terminaisons étaient dues à des violations de confiance.

Cet incident s'inscrit dans un schéma de départs liés à la sécurité chez OpenAI, y compris la récente démission de David Robinson, responsable de la transparence en matière de sécurité, qui avait exprimé des préoccupations concernant la culture interne de l'entreprise et ses mesures de sécurité. Les implications plus larges de cette situation mettent en lumière la tension persistante dans l'industrie de l'IA entre la nécessité d'une supervision de la sécurité et la protection de la recherche propriétaire.