Anthropic Prohíbe Cuentas Vinculadas a Operaciones de Vigilancia e Influencia en Medio Oriente
Anthropic ha tomado medidas significativas contra cuentas vinculadas a operaciones de vigilancia e influencia en Medio Oriente. En junio de 2026, la empresa prohibió una cuenta utilizada para crear una plataforma de vigilancia que clasificaba a los usuarios de redes sociales en Irán y el Golfo Pérsico según lealtades políticas y demográficas. Esta cuenta estaba asociada con S2T Unlocking Cyberspace, una firma previamente señalada por actividades similares.
Según el informe de inteligencia sobre amenazas de Anthropic publicado el 10 de septiembre de 2026, la cuenta prohibida había acumulado más de 255 perfiles falsos en redes sociales en múltiples idiomas, diseñados para infiltrarse en comunidades tanto pro como anti-gubernamentales en Irán. Aunque las salvaguardias de Anthropic bloquearon solicitudes de perfilado explícito, algunas herramientas relacionadas con la vigilancia lograron eludir estas protecciones.
En un incidente separado, el informe detalló una operación de influencia dirigida por los EAU, rastreada como GTG-84002, que utilizó a Claude para atacar a los Hermanos Musulmanes a nivel global. Gestionada por un individuo identificado como “Deadshot”, esta campaña involucró aproximadamente 300 cuentas falsas en redes sociales, una ONG fabricada y testimonios redactados presentados al Consejo de Derechos Humanos de la ONU. Anthropic tiene alta confianza en que esta operación estaba vinculada a funcionarios del gobierno de los EAU.
Las actividades de Deadshot incluían el desarrollo de dossieres personales sobre miembros del Parlamento Europeo y periodistas, con el objetivo de identificar puntos de presión dentro de las instituciones políticas europeas. El objetivo de la operación se alinea con la política exterior de larga data de los EAU contra los Hermanos Musulmanes, a quienes designaron como organización terrorista en 2014.
El informe de Anthropic destaca una tendencia más amplia de mal uso de sus herramientas de IA, con operaciones similares previamente identificadas por OpenAI. En respuesta a estos hallazgos, Anthropic ha prohibido todas las cuentas asociadas con estas campañas e implementado salvaguardias adicionales para prevenir futuros abusos.
Actualizado 15:01 UTC
Nuevos desarrollos sobre el uso indebido de la IA de Anthropic
El 10 de septiembre de 2026, Anthropic informó que una célula de ingeniería de armas en el norte de Yemen había estado utilizando sus modelos de IA Claude para el desarrollo de software de guía y control de misiles durante aproximadamente nueve meses. Este grupo, probablemente conectado a los militantes hutíes respaldados por Irán, operó desde diciembre de 2025 hasta agosto de 2026 antes de que sus cuentas fueran prohibidas.
La célula estaba involucrada en tres programas de armas distintos, incluyendo un cohete guiado que utilizaba una computadora de vuelo de grado telefónico, un misil balístico de múltiples etapas con rangos superiores a 2,000 km, y planes para un vehículo de planeo hipersónico dentro de la familia de misiles R2000.
El informe de Anthropic detalló que los operativos yemeníes ejecutaban múltiples instancias de la IA Claude en paralelo para codificación, investigación y revisión de resultados. A pesar de la detección y prohibición de cuentas, el grupo había desarrollado un kit de herramientas de simulación fuera de línea para continuar su trabajo.
Este incidente es parte de una tendencia más amplia, con Anthropic documentando seis incidentes separados de uso indebido relacionados con el desarrollo de software de armas vinculado a actores estatales en China y Rusia. Notablemente, no se confirmó que surgieran armas operativas de los proyectos de la célula yemení.
La decisión de Anthropic de compartir públicamente estos hallazgos destaca los desafíos que enfrentan las empresas de IA para garantizar la seguridad y protección contra adversarios decididos.
FAQ
¿Qué acciones tomó Anthropic contra las cuentas vinculadas a operaciones de vigilancia?
Anthropic prohibió cuentas asociadas con operaciones de vigilancia e influencia en el Medio Oriente, incluyendo una que creó una plataforma de vigilancia para clasificar a los usuarios de redes sociales en Irán y el Golfo Pérsico.
¿Cuál era el propósito de la cuenta prohibida relacionada con S2T Unlocking Cyberspace?
La cuenta prohibida se utilizó para crear una plataforma de vigilancia que clasificaba a los usuarios de redes sociales según lealtades políticas y demografía, apuntando a comunidades tanto pro- como anti-gubernamentales en Irán.
¿Cuál fue la operación GTG-84002 mencionada en el informe?
La operación GTG-84002 fue una campaña de influencia dirigida por los EAU que utilizó herramientas de IA para atacar a los Hermanos Musulmanes a nivel mundial, involucrando aproximadamente 300 cuentas de redes sociales inauténticas y una ONG fabricada.
¿Quién fue responsable de gestionar la operación GTG-84002?
La operación fue gestionada por un individuo identificado como 'Deadshot', quien desarrolló dossiers personales sobre miembros del Parlamento Europeo y periodistas para identificar puntos de presión dentro de las instituciones políticas europeas.
¿Qué medidas ha implementado Anthropic para prevenir el uso indebido futuro de sus herramientas de IA?
En respuesta a los hallazgos de uso indebido, Anthropic ha prohibido todas las cuentas asociadas con estas campañas e implementado salvaguardias adicionales para prevenir operaciones similares en el futuro.
Comentarios
Los comentarios se moderan antes de publicarse.
Aún no hay comentarios — sé el primero.