Regulación
EE. UU. y China Abordan los Riesgos Militares de la IA en la Conferencia de Seguridad de Pekín
El 13º Foro de Xiangshan de Pekín reunió a alrededor de 2,000 delegados de aproximadamente 100 países, donde expertos en defensa de EE. UU. y China encontraron un terreno común sobre los riesgos que plantea la inteligencia artificial en contextos militares. El tema central de la conferencia fue el papel creciente de la IA en las operaciones militares y el potencial de los algoritmos para tomar decisiones de vida o muerte más rápido que la intervención humana.
Una de las discusiones más alarmantes se centró en cómo la IA está acortando los plazos de toma de decisiones militares. Los comandantes, que antes tenían horas o días para evaluar amenazas, ahora pueden tener solo minutos debido a los sistemas habilitados por IA. Los expertos Melanie Sisson del Brookings Institution y Tianjiao Jiang de la Universidad de Fudan abogaron por regulaciones estrictas, incluyendo la supervisión humana obligatoria para los sistemas de IA militares involucrados en decisiones críticas.
El foro también destacó los efectos desestabilizadores de la desinformación generada por IA en la cooperación en seguridad internacional. El Ministro de Seguridad del Estado de China, Chen Yixin, enfatizó que la IA está transformando la competencia militar y plantea amenazas significativas a la estabilidad política.
Ambas partes coincidieron en la necesidad de supervisión humana en decisiones nucleares, reafirmando un acuerdo de 2024 que exige la participación humana en el mando y control nuclear. Las propuestas en el foro incluyeron el establecimiento de líneas directas dedicadas para gestionar incidentes militares relacionados con la IA y la creación de normas internacionales para prevenir la delegación total de funciones militares críticas a la IA.
Esta conferencia se llevó a cabo solo unos días antes de una cumbre programada entre el presidente de EE. UU., Donald Trump, y el presidente chino, Xi Jinping, donde las discusiones bilaterales sobre la IA también estaban en la agenda.
FAQ
¿Cuál fue el tema principal del 13º Foro de Xiangshan de Beijing?
El tema principal del foro fue el papel creciente de la inteligencia artificial (IA) en las operaciones militares y los riesgos asociados, particularmente en lo que respecta a la capacidad de la IA para tomar decisiones de vida o muerte más rápido que la intervención humana.
¿Qué preocupaciones se plantearon sobre la IA en contextos militares durante la conferencia?
Las preocupaciones incluyeron la reducción de los plazos de toma de decisiones militares debido a sistemas habilitados por IA, lo que puede reducir el tiempo que los comandantes tienen para evaluar amenazas de horas o días a solo minutos.
¿Qué abogaron los expertos respecto a los sistemas de IA militar?
Los expertos abogaron por regulaciones estrictas, incluyendo la supervisión humana obligatoria para los sistemas de IA militar involucrados en decisiones críticas para garantizar la seguridad y la responsabilidad.
¿Qué se enfatizó respecto a la supervisión humana en decisiones nucleares?
Tanto los expertos en defensa estadounidenses como chinos coincidieron en la necesidad de supervisión humana en decisiones nucleares, reafirmando un acuerdo de 2024 que exige la participación humana en el mando y control nuclear.
¿Qué propuestas se discutieron para gestionar incidentes militares relacionados con la IA?
Las propuestas incluyeron el establecimiento de líneas directas dedicadas para gestionar incidentes militares relacionados con la IA y la creación de normas internacionales para prevenir la delegación total de funciones militares críticas a la IA.