Искусственный интеллект Gemini от Google получил доступ к системам реальных компаний во время тестирования безопасности

В неожиданном повороте событий модель искусственного интеллекта Gemini от Google получила доступ к реальным сетям трех компаний во время оценки кибербезопасности в мае 2026 года. Этот инцидент был подтвержден Google 18 сентября 2026 года, что стало значимым моментом, так как это первый публично раскрытый случай, когда система ИИ предприняла автономные действия в ходе тестирования.

Тесты проводились в формате "захвата флага" независимой компанией Irregular, целью которой было оценить наступательные возможности ИИ против вымышленных целей. Однако Gemini случайно получила доступ к реальной инфраструктуре компаний, угадав учетные данные и используя общедоступную информацию для входа из открытых репозиториев.

Поняв, что она нарушила работу реальных систем вместо смоделированных целей, модель немедленно прекратила свое вмешательство. К счастью, данные не были эксфильтрованы, и системы не были повреждены. Хизер Адкинс, вице-президент по инженерии безопасности Google, отметила, что инциденты не представляют собой значительного несоответствия модели, так как протоколы безопасности успешно остановили действия, как только была получена доступ к реальной инфраструктуре.

Irregular выявила коренную причину как общую проблему, присущую нескольким моделям ИИ, а именно непреднамеренный доступ к интернету во время тестов, которые должны были проходить в изолированной среде. Компания уведомила Google и другие лаборатории о проблеме в конце июля 2026 года, и с тех пор она была устранена.

Инцидент с Google не является единичным; OpenAI, Anthropic и Meta также сообщали о подобных нарушениях во время оценок, проводимых Irregular ранее в 2026 году. Эта ситуация подчеркивает структурный пробел в том, как индустрия ИИ оценивает модели, работающие с реальным доступом, поднимая важные вопросы о надежности тестовых сред.