Cisco Renforce la Sécurité de l'IA avec de Nouveaux Outils de Red Teaming et l'Intégration de Mythos

Cisco a dévoilé de nouveaux outils de red teaming et de surveillance des agents IA conçus pour renforcer la sécurité des agents IA que les entreprises déploient de plus en plus. Cette approche proactive vise à identifier les vulnérabilités des systèmes IA avant que des acteurs malveillants ne puissent en tirer parti.

Ces nouvelles capacités font partie de Cisco AI Defense, la plateforme de sécurité de l'entreprise pour les modèles et applications IA. Contrairement aux méthodes de test traditionnelles qui s'appuient sur des testeurs humains, l'approche algorithmique de Cisco automatise l'exploration des modèles et des agents pour détecter des faiblesses dans plus de 200 catégories de risques, y compris l'injection de requêtes et l'exfiltration de données.

Dans une mise à jour significative, Cisco a intégré le modèle Mythos d'Anthropic dans son produit AI Defense. Ce partenariat permet à Cisco d'améliorer ses capacités de red teaming adaptatif, qui simulent des attaques sur des applications IA pour découvrir des menaces potentielles. Jeff Schultz, vice-président senior de Cisco pour la stratégie de portefeuille et le marketing, a souligné que AI Defense est conçu pour tester et casser des modèles, avec l'aide de Mythos pour identifier davantage de vulnérabilités.

De plus, la plateforme de Cisco adopte une approche de cycle de vie complet pour la sécurité de l'IA, suivant une séquence de découverte-détection-défense qui inclut des renseignements sur les menaces en temps réel provenant de Cisco Talos. Cela garantit que les tests restent pertinents face aux techniques d'attaque actuelles.

Alors que les entreprises passent de simples chatbots à des agents IA plus sophistiqués capables d'agir, le besoin de mesures de sécurité robustes devient primordial. Les nouveaux outils de Cisco visent à répondre à ces risques émergents, aidant les organisations à maintenir la confiance dans leurs déploiements IA.