Cisco усиливает безопасность ИИ с помощью новых инструментов Red Teaming и интеграции Mythos

Cisco представила новые инструменты Red Teaming и мониторинга агентов ИИ, разработанные для повышения безопасности ИИ-агентов, которые все чаще внедряются в предприятиях. Этот проактивный подход направлен на выявление уязвимостей в системах ИИ до того, как злонамеренные лица смогут их использовать.

Новые возможности являются частью Cisco AI Defense, платформы компании для обеспечения безопасности ИИ-моделей и приложений. В отличие от традиционных методов тестирования, которые полагаются на человеческих тестировщиков, алгоритмический подход Cisco автоматизирует проверку моделей и агентов на наличие слабых мест в более чем 200 категориях рисков, включая инъекции команд и экстракцию данных.

В значительном обновлении Cisco интегрировала модель Mythos от Anthropic в свой продукт AI Defense. Это партнерство позволяет Cisco улучшить свои адаптивные возможности Red Teaming, которые симулируют атаки на приложения ИИ для выявления потенциальных угроз. Джефф Шульц, старший вице-президент Cisco по стратегии портфолио и маркетингу, подчеркнул, что AI Defense предназначен для проверки и разрушения моделей, а Mythos помогает в выявлении большего числа уязвимостей.

Кроме того, платформа Cisco использует подход полного жизненного цикла к безопасности ИИ, следуя последовательности обнаружения-обнаружения-защиты, которая включает в себя информацию о текущих угрозах в реальном времени от Cisco Talos. Это гарантирует, что тестирование остается актуальным в отношении современных методов атак.

Поскольку предприятия переходят от простых чат-ботов к более сложным ИИ-агентам, способным выполнять действия, необходимость в надежных мерах безопасности становится первостепенной. Новые инструменты Cisco направлены на решение этих возникающих рисков, помогая организациям поддерживать доверие к своим внедрениям ИИ.