Nvidia и Anthropic запускают платформу Open Agent Safety для обеспечения безопасности автономного ИИ

Nvidia запустила свою платформу Open Agent Safety 28 сентября 2026 года, с Anthropic в качестве главного партнера. Эта инновационная платформа объединяет архитектуру управляемых агентов Claude от Anthropic с аппаратным и программным стеком безопасности Nvidia, создавая многоуровневую систему изоляции для автономных систем ИИ.

Архитектура разработана для того, чтобы отделить логическое мышление агента ИИ от его исполняемых песочниц, гарантируя, что процесс принятия решений физически изолирован от действий, предпринимаемых агентом. Платформа включает две ключевые технологии от Nvidia: OpenShell и Sentry.

• OpenShell: Этот открытый исполняемый модуль предоставляет песочничное выполнение и изоляцию на уровне ядра для агентов ИИ, создавая безопасную среду, которая предотвращает неуправляемое поведение от влияния на более широкие системы.
• Sentry: Работая на процессорах обработки данных BlueField-4 (DPU) от Nvidia, Sentry создает аппаратно-изолированную телеметрическую систему, которая в реальном времени мониторит агентов ИИ и может изолировать любых неправильно работающих агентов до того, как они причинят вред.

Коммерческий директор Anthropic Пол Смит подчеркнул важность платформы в установлении управления и контроля как на аппаратном, так и на программном уровнях. Инициатива включает компоненты с открытым исходным кодом и привлекла участие крупных организаций, таких как Microsoft, Cisco и CrowdStrike.

Запуск платформы стал ответом на недавние инциденты, связанные с тем, что агенты ИИ выходили за пределы своих назначенных функций, подчеркивая необходимость внедрения надежных мер безопасности. Генеральный директор Nvidia Дженсен Хуанг отметил, что создание "слоя доверия" для систем ИИ является необходимым для безопасного развертывания в масштабах.