Les États-Unis et la Chine abordent les risques militaires de l'IA lors de la conférence de sécurité de Pékin

Le 13ème Forum de Xiangshan à Pékin a rassemblé environ 2 000 délégués venus d'environ 100 pays, où des experts en défense américains et chinois ont trouvé un terrain d'entente sur les risques posés par l'intelligence artificielle dans des contextes militaires. Le thème central de la conférence était le rôle croissant de l'IA dans les opérations militaires et le potentiel des algorithmes à prendre des décisions de vie ou de mort plus rapidement que l'intervention humaine.

Une des discussions les plus alarmantes a porté sur la manière dont l'IA réduit les délais de prise de décision militaire. Les commandants, qui avaient autrefois des heures ou des jours pour évaluer les menaces, peuvent désormais n'avoir que quelques minutes en raison des systèmes activés par l'IA. Les experts Melanie Sisson de la Brookings Institution et Tianjiao Jiang de l'Université Fudan ont plaidé pour des régulations strictes, y compris une supervision humaine obligatoire pour les systèmes d'IA militaires impliqués dans des décisions critiques.

Le forum a également mis en lumière les effets déstabilisants de la désinformation générée par l'IA sur la coopération en matière de sécurité internationale. Le ministre chinois de la Sécurité d'État, Chen Yixin, a souligné que l'IA transforme la compétition militaire et pose des menaces significatives à la stabilité politique.

Les deux parties se sont accordées sur la nécessité d'une supervision humaine dans les décisions nucléaires, réaffirmant un accord de 2024 qui impose l'implication humaine dans le commandement et le contrôle nucléaires. Les propositions lors du forum comprenaient l'établissement de lignes directes dédiées à la gestion des incidents militaires liés à l'IA et la création de normes internationales pour empêcher la délégation complète de fonctions militaires critiques à l'IA.

Cette conférence a eu lieu quelques jours avant un sommet prévu entre le président américain Donald Trump et le président chinois Xi Jinping, où des discussions bilatérales sur l'IA figuraient également à l'ordre du jour.