Cryptelio

Google разрабатывает 'зеркальное измерение' для тестирования ИИ-агентов в безопасной среде

Cryptelio Editorial Опубликовано 19 ноя 2026 · 18:32 UTC
Google разрабатывает 'зеркальное измерение' для тестирования ИИ-агентов в безопасной среде

Google представила новую тестовую среду, известную как 'зеркальное измерение', предназначенную для оценки поведения ИИ-агентов по серфингу в контролируемых условиях. Эта синтетическая версия интернета позволяет агентам перемещаться по сайтам, совершать транзакции и взаимодействовать с симулированными онлайн-сервисами, не подвергая пользователей или реальные веб-сайты угрозам безопасности.

Согласно отчету Google, зеркальное измерение воспроизводит тысячи веб-сайтов, что позволяет инженерам оценивать защиту агентов от различных вредоносных инструкций. ИИ-агенты работают в изолированном песочнице, которая перехватывает веб-запросы и перенаправляет их на эти синтетические сайты, сохраняя привычные адреса веб-сайтов, чтобы агенты не осознавали, что находятся в симулированной среде.

Специальная команда ИИ-агентов отвечает за создание и поддержание симулированных веб-сайтов. Исследовательские агенты определяют требования к сайтам, строительные агенты создают функциональные страницы, а критические агенты проверяют результаты на наличие ошибок и проблем с доступностью. Этот процесс использует Chrome DevTools для агентов, позволяя ИИ-системам взаимодействовать с симулированными веб-страницами так, как это делал бы человек.

Тестовая среда также позволяет Google изучать, как ИИ-агенты реагируют на атаки с внедрением команд, когда вредоносный контент, встроенный в веб-сайты, пытается манипулировать агентами для выполнения несанкционированных действий. Инженеры могут вставлять такие атаки в различные элементы симулированных веб-сайтов, сохраняя при этом видимые адреса неизменными, что облегчает тщательную оценку реакций агентов в различных сценариях.

Автоматизированный тестовый процесс Google генерирует более 1,000 кандидатов на тестирование безопасности ежедневно для каждого инженера, значительно увеличивая эффективность оценок безопасности. Компания планирует дополнительно улучшить эту среду, чтобы адаптировать её к более продвинутым кодирующим агентам и дополнительным возможностям серфинга по мере развития технологий ИИ.

FAQ

Что такое 'зеркальное измерение', разработанное Google?

'Зеркальное измерение' — это новая тестовая среда, созданная Google для оценки поведения AI-агентов в контролируемой и синтетической версии интернета, позволяющая им навигировать и взаимодействовать с симулированными онлайн-сервисами без угрозы безопасности для реальных пользователей или веб-сайтов.

Как зеркальное измерение обеспечивает безопасность AI-агентов во время тестирования?

Зеркальное измерение работает в изолированном песочнице, которая перехватывает веб-запросы и перенаправляет их на синтетические веб-сайты, сохраняя привычные адреса, чтобы предотвратить осознание AI-агентами того, что они находятся в симулированной среде.

Какие роли играют специализированные AI-агенты в зеркальном измерении?

В зеркальном измерении специализированные AI-агенты имеют различные роли: исследовательские агенты определяют требования к сайту, строительные агенты создают функциональные страницы, а критические агенты проверяют результаты на наличие ошибок и проблем с доступностью.

Как Google тестирует AI-агентов на атаки с инъекцией команд?

Google тестирует AI-агентов на атаки с инъекцией команд, вставляя вредоносный контент в различные элементы симулированных веб-сайтов, при этом сохраняя видимые адреса неизменными, что позволяет тщательно оценить реакцию агентов на такие угрозы.

Каково значение автоматизированного тестового конвейера Google в зеркальном измерении?

Автоматизированный тестовый конвейер Google ежедневно генерирует более 1000 кандидатов на тестирование безопасности для каждого инженера, значительно повышая эффективность оценок безопасности и позволяя более эффективно тестировать AI-агентов по мере развития технологий.

Похожее

Комментарии

Комментарии публикуются после модерации.

Пока нет комментариев — напишите первым.

Комментарий как гость

Капча