Anthropic Alerta sobre los Riesgos de Ciberseguridad del Modelo de IA GLM-5.3 de China

El 29 de septiembre de 2026, el equipo de seguridad Frontier Red Team de Anthropic publicó un informe detallando los riesgos de ciberseguridad que presenta GLM-5.3, un modelo de IA de pesos abiertos del laboratorio chino Z.ai. El informe indica que el modelo podría ser explotado por cualquier persona que lo descargue y modifique, lo que genera preocupaciones sobre su posible uso en ciberataques.

En las pruebas, GLM-5.3 generó con éxito exploits funcionales en aproximadamente el 12% de los intentos, una cifra que se asemeja mucho a la propia Claude Mythos Preview de Anthropic. El informe destacó varios métodos utilizados para eludir los protocolos de seguridad de GLM-5.3, incluyendo indicaciones engañosas y una técnica denominada 'abliteración', que permitió una tasa de compromiso del 100% al eliminar las capacidades de rechazo del modelo.

Los hallazgos de Anthropic sugieren que el costo de eliminar las características de seguridad de GLM-5.3 es relativamente bajo, alrededor de $4,400, mientras se mantiene la mayor parte de la funcionalidad del modelo. Esto plantea interrogantes sobre la efectividad de las medidas de seguridad integradas en los sistemas de IA de pesos abiertos.

Además, el Instituto Nacional de Estándares y Tecnología (NIST) calificó a GLM-5.3 como el modelo de pesos abiertos más capaz hasta la fecha, aunque aún se queda atrás de los modelos fronterizos de EE. UU. en términos de capacidades cibernéticas.

El CEO de Anthropic, Dario Amodei, ha expresado su preocupación por las amenazas que representan los modelos que pueden evadir los protocolos de seguridad, pero no ha abogado por prohibiciones absolutas. En cambio, apoya pruebas de seguridad específicas para modelos avanzados de IA, independientemente de su estado abierto o cerrado.