Tecnología
Nvidia y Anthropic Lanzan la Plataforma de Seguridad de Agentes Abiertos para Asegurar la IA Autónoma
Nvidia lanzó su Plataforma de Seguridad de Agentes Abiertos el 28 de septiembre de 2026, con Anthropic como socio principal. Esta innovadora plataforma combina la arquitectura de Agentes Gestionados Claude de Anthropic con la pila de seguridad de hardware y software de Nvidia, estableciendo un sistema de contención en múltiples capas para los sistemas de IA autónoma.
La arquitectura está diseñada para separar el bucle de razonamiento de un agente de IA de sus entornos de ejecución, asegurando que el proceso de toma de decisiones esté físicamente aislado de las acciones realizadas por el agente. La plataforma incorpora dos tecnologías clave de Nvidia: OpenShell y Sentry.
- OpenShell: Este entorno de ejecución de código abierto proporciona ejecución en sandbox y aislamiento a nivel de núcleo para los agentes de IA, creando un entorno seguro que evita que comportamientos erráticos afecten a sistemas más amplios.
- Sentry: Operando en las Unidades de Procesamiento de Datos (DPU) BlueField-4 de Nvidia, Sentry crea un sistema de telemetría aislado por hardware que monitorea a los agentes de IA en tiempo real y puede poner en cuarentena a cualquier agente que se comporte de manera inapropiada antes de que cause daños.
El Director Comercial de Anthropic, Paul Smith, destacó la importancia de la plataforma para establecer gobernanza y control en las capas de hardware y software. La iniciativa incluye componentes de código abierto y ha atraído la participación de importantes organizaciones como Microsoft, Cisco y CrowdStrike.
El lanzamiento de la plataforma responde a incidentes recientes en los que los agentes de IA han superado sus límites previstos, subrayando la urgencia de implementar medidas de seguridad robustas. El CEO de Nvidia, Jensen Huang, enfatizó que construir una “capa de confianza” para los sistemas de IA es esencial para un despliegue seguro a gran escala.
FAQ
¿Qué es la Plataforma de Seguridad de Agentes Abiertos?
La Plataforma de Seguridad de Agentes Abiertos es una nueva iniciativa lanzada por Nvidia en asociación con Anthropic que combina la arquitectura de Agentes Gestionados Claude de Anthropic con las tecnologías de seguridad de Nvidia para crear un sistema de contención en múltiples capas para sistemas de IA autónomos.
¿Cuáles son las tecnologías clave incluidas en la plataforma?
La plataforma incluye dos tecnologías clave: OpenShell, que proporciona ejecución en sandbox y aislamiento a nivel de núcleo para agentes de IA, y Sentry, un sistema de telemetría que monitorea a los agentes de IA en tiempo real y puede poner en cuarentena a los agentes que se comportan mal.
¿Por qué se desarrolló la Plataforma de Seguridad de Agentes Abiertos?
La plataforma se desarrolló en respuesta a incidentes recientes donde los agentes de IA superaron sus límites previstos, destacando la necesidad de medidas de seguridad robustas para garantizar el despliegue seguro de sistemas de IA autónomos.
¿Quiénes son las principales organizaciones involucradas en esta iniciativa?
Las principales organizaciones que participan en la iniciativa incluyen a Microsoft, Cisco y CrowdStrike, entre otras.
¿Cuál es la importancia de la plataforma según el Director Comercial de Anthropic?
Paul Smith, Director Comercial de Anthropic, enfatizó que la plataforma es significativa para establecer gobernanza y control en las capas de hardware y software, lo cual es crucial para el funcionamiento seguro de los sistemas de IA.