Anthropic interdit des comptes liés à des opérations de surveillance et d'influence au Moyen-Orient
Anthropic a pris des mesures significatives contre des comptes liés à des opérations de surveillance et d'influence au Moyen-Orient. En juin 2026, la société a interdit un compte utilisé pour créer une plateforme de surveillance qui classait les utilisateurs des réseaux sociaux en Iran et dans le Golfe Persique en fonction de leurs loyautés politiques et de leur démographie. Ce compte était associé à S2T Unlocking Cyberspace, une entreprise précédemment signalée pour des activités similaires.
Selon le rapport sur les menaces d'Anthropic publié le 10 septembre 2026, le compte interdit avait accumulé plus de 255 fausses identités sur les réseaux sociaux dans plusieurs langues, conçues pour infiltrer à la fois les communautés pro- et anti-gouvernementales en Iran. Bien que les protections d'Anthropic aient bloqué les demandes de profilage explicites, certains outils liés à la surveillance ont réussi à contourner ces protections.
Dans un incident distinct, le rapport a détaillé une opération d'influence dirigée par les Émirats Arabes Unis, suivie sous le nom de GTG-84002, qui a utilisé Claude pour cibler les Frères Musulmans à l'échelle mondiale. Gérée par un individu identifié comme "Deadshot", cette campagne impliquait environ 300 comptes de réseaux sociaux inauthentiques, une ONG fictive et des témoignages rédigés par des tiers soumis au Conseil des droits de l'homme de l'ONU. Anthropic a une grande confiance dans le fait que cette opération était liée à des responsables du gouvernement des Émirats.
Les activités de Deadshot comprenaient le développement de dossiers personnels sur des membres du Parlement européen et des journalistes, visant à identifier des points de pression au sein des institutions politiques européennes. L'objectif de l'opération s'aligne avec la politique étrangère de longue date des Émirats contre les Frères Musulmans, qu'ils ont désignés comme organisation terroriste en 2014.
Le rapport d'Anthropic met en lumière une tendance plus large d'utilisation abusive de ses outils d'IA, avec des opérations similaires précédemment identifiées par OpenAI. En réponse à ces constatations, Anthropic a interdit tous les comptes associés à ces campagnes et mis en œuvre des protections supplémentaires pour prévenir tout usage abusif futur.
Mis à jour 15:01 UTC
Nouveaux développements sur l'utilisation abusive de l'IA par Anthropic
Le 10 septembre 2026, Anthropic a rapporté qu'un groupe d'ingénierie d'armement dans le nord du Yémen avait utilisé ses modèles d'IA Claude pour le développement de logiciels de guidage et de contrôle de missiles pendant environ neuf mois. Ce groupe, probablement lié aux militants houthis soutenus par l'Iran, a opéré de décembre 2025 à août 2026 avant que leurs comptes ne soient bannis.
Le groupe était engagé dans trois programmes d'armement distincts, y compris un missile guidé utilisant un ordinateur de vol de qualité téléphone, un missile balistique à plusieurs étages avec des portées supérieures à 2 000 km, et des plans pour un véhicule de glisse hypersonique au sein de la famille de missiles R2000.
Le rapport d'Anthropic a détaillé que les opérateurs yéménites exécutaient plusieurs instances de l'IA Claude en parallèle pour le codage, la recherche et la révision des résultats. Malgré la détection et le bannissement des comptes, le groupe avait développé un kit d'outils de simulation hors ligne pour continuer leur travail.
Cet incident fait partie d'une tendance plus large, Anthropic ayant documenté six incidents distincts d'utilisation abusive impliquant le développement de logiciels d'armement liés à des acteurs étatiques en Chine et en Russie. Notamment, aucune arme opérationnelle n'a été confirmée comme étant issue des projets du groupe yéménite.
La décision d'Anthropic de partager publiquement ces découvertes met en lumière les défis auxquels les entreprises d'IA sont confrontées pour garantir la sécurité et la sûreté contre des adversaires déterminés.
FAQ
Quelles actions Anthropic a-t-il prises contre les comptes liés aux opérations de surveillance ?
Anthropic a interdit les comptes associés aux opérations de surveillance et d'influence au Moyen-Orient, y compris un qui a créé une plateforme de surveillance pour classifier les utilisateurs des réseaux sociaux en Iran et dans le Golfe Persique.
Quel était le but du compte interdit lié à S2T Unlocking Cyberspace ?
Le compte interdit était utilisé pour créer une plateforme de surveillance qui classait les utilisateurs des réseaux sociaux en fonction de leurs loyautés politiques et de leur démographie, ciblant à la fois les communautés pro- et anti-gouvernementales en Iran.
Quelle était l'opération GTG-84002 mentionnée dans le rapport ?
L'opération GTG-84002 était une campagne d'influence dirigée par les Émirats Arabes Unis qui utilisait des outils d'IA pour cibler la Fraternité musulmane à l'échelle mondiale, impliquant environ 300 comptes de réseaux sociaux inauthentiques et une ONG fabriquée.
Qui était responsable de la gestion de l'opération GTG-84002 ?
L'opération était gérée par un individu identifié comme 'Deadshot', qui a développé des dossiers personnels sur les membres du Parlement européen et les journalistes pour identifier les points de pression au sein des institutions politiques européennes.
Quelles mesures Anthropic a-t-il mises en œuvre pour prévenir une utilisation abusive future de ses outils d'IA ?
En réponse aux constatations d'abus, Anthropic a interdit tous les comptes associés à ces campagnes et a mis en œuvre des mesures de protection supplémentaires pour prévenir des opérations similaires à l'avenir.
Commentaires
Les commentaires sont modérés avant publication.
Pas encore de commentaires — soyez le premier.