Unternehmen
Cisco verbessert die KI-Sicherheit mit neuen Red-Teaming-Tools und Mythos-Integration
Cisco hat neue KI-Red-Teaming- und Agentenüberwachungstools vorgestellt, die darauf abzielen, die Sicherheit von KI-Agenten zu stärken, die Unternehmen zunehmend einsetzen. Dieser proaktive Ansatz soll Schwachstellen in KI-Systemen identifizieren, bevor böswillige Akteure diese ausnutzen können.
Die neuen Funktionen sind Teil von Cisco AI Defense, der Sicherheitsplattform des Unternehmens für KI-Modelle und -Anwendungen. Im Gegensatz zu traditionellen Testmethoden, die auf menschliche Tester angewiesen sind, automatisiert Ciscos algorithmischer Ansatz das Testen von Modellen und Agenten auf Schwächen in mehr als 200 Risikokategorien, einschließlich Prompt-Injection und Datenexfiltration.
In einem bedeutenden Update hat Cisco das Mythos-Modell von Anthropic in sein AI Defense-Produkt integriert. Diese Partnerschaft ermöglicht es Cisco, seine adaptiven Red-Teaming-Fähigkeiten zu verbessern, die Angriffe auf KI-Anwendungen simulieren, um potenzielle Bedrohungen aufzudecken. Jeff Schultz, Senior Vice President für Portfolio-Strategie und Marketing bei Cisco, betonte, dass AI Defense darauf ausgelegt ist, Modelle zu testen und zu durchbrechen, wobei Mythos bei der Identifizierung weiterer Schwachstellen hilft.
Darüber hinaus verfolgt Ciscos Plattform einen ganzheitlichen Ansatz für die KI-Sicherheit, der einem Entdecken-Erkennen-Verteidigen-Schema folgt und Echtzeit-Bedrohungsinformationen von Cisco Talos einbezieht. Dies stellt sicher, dass die Tests gegen aktuelle Angriffstechniken relevant bleiben.
Da Unternehmen von einfachen Chatbots zu komplexeren KI-Agenten übergehen, die in der Lage sind, Aktionen durchzuführen, wird der Bedarf an robusten Sicherheitsmaßnahmen immer wichtiger. Ciscos neue Tools zielen darauf ab, diese aufkommenden Risiken zu adressieren und Organisationen zu helfen, das Vertrauen in ihre KI-Einsätze aufrechtzuerhalten.
FAQ
Welche neuen Tools hat Cisco für die KI-Sicherheit eingeführt?
Cisco hat neue KI-Red-Teaming- und Agentenüberwachungstools eingeführt, die darauf ausgelegt sind, Schwachstellen in KI-Systemen zu identifizieren, bevor sie von böswilligen Akteuren ausgenutzt werden können.
Wie unterscheidet sich Ciscos KI-Verteidigung von traditionellen Testmethoden?
Im Gegensatz zu traditionellen Methoden, die auf menschliche Tester angewiesen sind, verwendet Ciscos KI-Verteidigung einen algorithmischen Ansatz, um die Modelle und Agenten auf Schwächen in mehr als 200 Risikokategorien zu überprüfen.
Was ist die Bedeutung der Integration des Mythos-Modells von Anthropic in Ciscos KI-Verteidigung?
Die Integration des Mythos-Modells von Anthropic verbessert die adaptiven Red-Teaming-Fähigkeiten von Cisco und ermöglicht eine effektivere Simulation von Angriffen auf KI-Anwendungen, um potenzielle Bedrohungen aufzudecken.
Was ist der ganzheitliche Lebenszyklusansatz zur KI-Sicherheit, der im Artikel erwähnt wird?
Ciscos ganzheitlicher Lebenszyklusansatz zur KI-Sicherheit folgt einer Entdecken-Erkennen-Verteidigen-Sequenz und integriert Echtzeit-Bedrohungsinformationen von Cisco Talos, um sicherzustellen, dass die Tests gegen aktuelle Angriffstechniken relevant bleiben.
Warum ist robuste Sicherheit für KI-Einsätze in Unternehmen wichtig?
Da Unternehmen von einfachen Chatbots zu komplexeren KI-Agenten übergehen, die in der Lage sind, Aktionen durchzuführen, sind robuste Sicherheitsmaßnahmen unerlässlich, um das Vertrauen in ihre KI-Einsätze aufrechtzuerhalten und sich gegen aufkommende Risiken zu schützen.