Anthropic усиливает безопасность Claude AI, снижая риски атак дистилляции до 99%

Компания Anthropic, разработчик моделей Claude AI, объявила о введении новых защитных мер, которые значительно уменьшили влияние атак дистилляции ИИ. Согласно отчету Reuters, эти меры безопасности сделали значительно сложнее извлечение токенов рассуждений из моделей Claude, достигнув снижения сбора данных на 90% до 99%.

Недавние улучшения применяются к моделям серии Claude 5, включая Fable 5.1, Opus 5.5 и Sonnet 5.5. В результате этих мер десятки тысяч аккаунтов, связанных с атакующими кампаниями, были заблокированы. Ожидается, что это развитие повысит конкурентоспособность Claude в рейтингах моделей ИИ.

Основные выводы

• Новые меры безопасности от Anthropic эффективно снизили атаки дистилляции ИИ на модели Claude.
• Сообщается, что меры сократили извлечение данных на 90% до 99%, что указывает на значительное улучшение безопасности.
• Рыночные цены предполагают, что это развитие может поддержать благоприятный исход для рейтинга ИИ Anthropic.

Что стоит наблюдать

Рынки будут внимательно следить за производительностью Anthropic в предстоящих рейтингах моделей ИИ, которые могут быть под влиянием этих улучшенных мер безопасности. Ключевые игроки, такие как Google и Meta, также находятся в центре внимания, так как они выпускают новые модели ИИ, что потенциально может повлиять на позиции Anthropic. Будущие отчеты о производительности Claude или дальнейшие улучшения безопасности могут изменить восприятие рынка и повлиять на вероятностное ценообразование в конкуренции моделей ИИ.