Компании
Исследователи OpenAI критикуют компанию за приоритет прибыли над безопасностью в открытом письме
Трое исследователей безопасности из OpenAI, Жасмин Ванг, Томек Корбак и Микита Балесни, были уволены около 1 октября 2026 года за allegedly sharing confidential materials with an external AI safety organization. Исследователи утверждают, что их действия были частью их профессиональных обязанностей, особенно учитывая предыдущую роль Корбака в качестве связующего звена с внешними группами по безопасности.
8 октября эта тройка направила открытое письмо в совет директоров OpenAI и комитеты по безопасности, которое с тех пор было опубликовано в интернете. В письме предупреждается о рисках, связанных с потерей мониторинга "цепочки размышлений", процесса, который позволяет исследователям безопасности отслеживать промежуточное рассуждение ИИ-моделей. Они утверждают, что в отрасли отсутствует ясность в вопросах безопасного создания и развертывания моделей без человеческого контроля.
Исследователи предложили два ключевых решения: содействие сотрудничеству в отрасли по мониторингу моделей и привлечение независимых аудиторов по безопасности. Однако OpenAI настаивает на том, что увольнения не связаны с защитой безопасности исследователей, утверждая, что увольнения произошли из-за нарушений доверия.
Этот инцидент следует за рядом увольнений, связанных с безопасностью, в OpenAI, включая недавнюю отставку Дэвида Робинсона, руководителя по прозрачности безопасности, который высказывал опасения по поводу внутренней культуры и мер безопасности компании. Более широкие последствия этой ситуации подчеркивают продолжающееся напряжение в индустрии ИИ между необходимостью контроля за безопасностью и защитой патентованных исследований.
FAQ
Что привело к увольнению трех исследователей OpenAI?
Исследователи были уволены за allegedly sharing confidential materials with an external AI safety organization, which they claim was part of their professional responsibilities.
Какие опасения исследователи выразили в своем открытом письме совету OpenAI?
Исследователи предупредили о рисках, связанных с потерей мониторинга 'цепочки размышлений', который важен для отслеживания промежуточного мышления AI моделей, и подчеркнули отсутствие ясности в безопасном создании и развертывании моделей без человеческого контроля.
Какие решения предложили исследователи для решения проблем безопасности в AI?
Они предложили способствовать сотрудничеству в отрасли по мониторингу моделей и привлечь независимых аудиторов безопасности для повышения контроля безопасности в разработке AI.
Как OpenAI отреагировала на увольнения исследователей?
OpenAI заявила, что увольнения не были связаны с защитой безопасности исследователей и были вызваны нарушениями доверия.
Что указывает этот инцидент на культуру в OpenAI в отношении мер безопасности?
Инцидент отражает продолжающиеся напряжения в индустрии AI между необходимостью контроля безопасности и защитой собственных исследований, что подтверждается предыдущими увольнениями, связанными с безопасностью в компании.