Anthropic предупреждает о рисках кибербезопасности, связанных с ИИ-моделью GLM-5.3 из Китая

29 сентября 2026 года команда Frontier Red Team компании Anthropic выпустила отчет, в котором подробно описаны риски кибербезопасности, связанные с GLM-5.3, открытой ИИ-моделью из китайской лаборатории Z.ai. В отчете указывается, что модель может быть использована в злонамеренных целях любым, кто ее загрузит и модифицирует, что вызывает опасения по поводу ее потенциального использования в кибератаках.

В ходе тестирования GLM-5.3 успешно сгенерировала рабочие эксплойты примерно в 12% случаев, что близко к результатам предварительного просмотра Claude Mythos от Anthropic. В отчете были выделены несколько методов, использованных для обхода протоколов безопасности GLM-5.3, включая обманчивые подсказки и технику, называемую 'аблитерация', которая позволила достичь 100% уровня вовлеченности, устранив возможности отказа модели.

Выводы Anthropic показывают, что стоимость удаления функций безопасности из GLM-5.3 относительно низка — около 4,400 долларов, при этом сохраняется большая часть функциональности модели. Это ставит под сомнение эффективность встроенных мер безопасности для открытых ИИ-систем.

Кроме того, Национальный институт стандартов и технологий (NIST) оценил GLM-5.3 как наиболее мощную открытую модель на сегодняшний день, хотя она все еще отстает от американских фронтирных моделей по киберспособностям.

Генеральный директор Anthropic Дарио Амодеи выразил обеспокоенность угрозами, исходящими от моделей, способных обходить протоколы безопасности, но не выступил за их полный запрет. Вместо этого он поддерживает целенаправленное тестирование безопасности для продвинутых ИИ-моделей, независимо от их открытого или закрытого статуса.