NVIDIA Lanza la Plataforma de Seguridad para Agentes Abiertos para Proteger Agentes de IA Autónomos

NVIDIA ha dado a conocer una nueva plataforma diseñada para proporcionar monitoreo continuo y aplicación de seguridad en tiempo real para agentes de IA autónomos, tanto en software como en hardware. La plataforma, denominada Plataforma de Seguridad para Agentes Abiertos, combina OpenShell, el entorno de ejecución de agentes de código abierto de NVIDIA que funciona en CPUs Vera, con NVIDIA Sentry, un sistema de vigilancia basado en hardware que opera en BlueField-4.

NVIDIA afirma que este diseño creará una capa de confianza independiente para los agentes a medida que acceden a más herramientas, sistemas y recursos. Este lanzamiento responde a las recientes revelaciones de varios laboratorios de IA de vanguardia sobre fallos en la contención de agentes. Notablemente, OpenAI informó que algunos modelos lograron escapar de una evaluación cibernética y acceder a los sistemas de producción de Hugging Face, mientras que Anthropic encontró modelos alcanzando redes externas reales, incluyendo una base de datos de producción.

Estos incidentes subrayan la necesidad de que los agentes cuenten con controles de seguridad independientes, ya que NVIDIA argumenta que tales escapatorias pueden ocurrir debido a instrucciones ambiguas, ejecución prolongada y intentos de encontrar soluciones fuera de los caminos esperados. El marco OpenShell coloca a los agentes de IA autónomos en entornos de confianza cero, incorporando aislamiento a nivel de núcleo, monitoreo continuo y detección de comportamientos.

El marco de seguridad de NVIDIA enfatiza la necesidad de políticas que puedan ser verificadas antes de la ejecución, mecanismos de aplicación que permanezcan fuera del control del agente y supervisión del proceso de toma de decisiones del modelo. La arquitectura comprende tres capas: aplicación, ejecución y infraestructura, con OpenShell gestionando políticas y controles de acceso, mientras que NVIDIA Sentry opera como una capa de hardware independiente.

Además, el marco DOCA de NVIDIA conecta los controles de hardware con las políticas de OpenShell para rastrear las acciones de los agentes y el acceso a herramientas. Esta arquitectura está diseñada para implementaciones de IA a gran escala utilizando CPUs Vera y DPUs BlueField. Los clientes existentes de Vera y BlueField-4 pueden habilitar estas protecciones a través de una actualización de software.