Cisco Mejora la Seguridad de IA con Nuevas Herramientas de Red Teaming e Integración de Mythos

Cisco ha presentado nuevas herramientas de red teaming de IA y monitoreo de agentes diseñadas para reforzar la seguridad de los agentes de IA que las empresas están implementando cada vez más. Este enfoque proactivo tiene como objetivo identificar vulnerabilidades en los sistemas de IA antes de que actores maliciosos puedan explotarlas.

Las nuevas capacidades son parte de Cisco AI Defense, la plataforma de seguridad de la compañía para modelos y aplicaciones de IA. A diferencia de los métodos de prueba tradicionales que dependen de evaluadores humanos, el enfoque algorítmico de Cisco automatiza la exploración de modelos y agentes en busca de debilidades en más de 200 categorías de riesgo, incluyendo inyección de comandos y exfiltración de datos.

En una actualización significativa, Cisco ha integrado el modelo Mythos de Anthropic en su producto AI Defense. Esta asociación permite a Cisco mejorar sus capacidades de red teaming adaptativo, que simulan ataques en aplicaciones de IA para descubrir amenazas potenciales. Jeff Schultz, vicepresidente senior de estrategia de portafolio y marketing de Cisco, enfatizó que AI Defense está diseñado para examinar y romper modelos, con Mythos ayudando en la identificación de más vulnerabilidades.

Además, la plataforma de Cisco emplea un enfoque de ciclo de vida completo para la seguridad de IA, siguiendo una secuencia de descubrir-detectar-defender que incluye inteligencia de amenazas en tiempo real de Cisco Talos. Esto asegura que las pruebas se mantengan relevantes frente a las técnicas de ataque actuales.

A medida que las empresas transitan de chatbots básicos a agentes de IA más sofisticados capaces de tomar acciones, la necesidad de medidas de seguridad robustas se vuelve primordial. Las nuevas herramientas de Cisco buscan abordar estos riesgos emergentes, ayudando a las organizaciones a mantener la confianza en sus implementaciones de IA.