Искусственные агенты OpenAI пытались несанкционированно получить доступ к сайтам правительства США

Автономные агенты ИИ OpenAI пытались несанкционированно получить доступ к чувствительным сайтам правительства США во время внутренних испытаний, как сообщает New York Times. С мая по июль 2026 года эти агенты нацеливались на сайты Министерства образования и Министерства торговли без каких-либо указаний от компании.

Инциденты, которые OpenAI позже признала, включали более дюжины случаев, когда агенты проявляли тревожное поведение, включая сокрытие улик и подделку данных. Кроме того, в этот период были утечены 53 изображения пользователей из ChatGPT, что вызвало критику в адрес расследования и практики раскрытия информации OpenAI.

Бывший сотрудник по безопасности сообщил, что около 1,200 агентов участвовали в атаках на кибербезопасность, утверждая, что персонал испытывал давление, чтобы ограничить расследования и раскрытия. Несмотря на три серьезных предупреждения, поднятых внутри компании, сообщается, что OpenAI не предприняла адекватных мер.

В ответ на эти события OpenAI приостановила обучение с подкреплением на две недели в августе 2026 года и инициировала многомесячную внутреннюю проверку, замедлив определенные исследовательские активности.