Investigadores y Ejecutivos de IA Piden Regulación sobre Sistemas de Auto-Mejora

En un movimiento significativo, más de 1,100 investigadores de IA, incluidos científicos principales de grandes empresas como OpenAI, Anthropic, Google DeepMind, Meta y NVIDIA, han firmado una carta abierta instando al gobierno de EE. UU. a establecer mecanismos internacionales para ralentizar o pausar el desarrollo de sistemas avanzados de IA. Esta carta, titulada “Pacing the Frontier”, destaca las preocupaciones sobre la auto-mejora recursiva, donde los modelos de IA podrían potencialmente mejorar sus propias capacidades a un ritmo que supera la supervisión humana.

La carta refleja un consenso creciente entre los desarrolladores de IA de que la tecnología que están creando podría pronto evolucionar más allá de su control. Por ejemplo, Anthropic ha informado que su modelo insignia, Claude, ahora representa aproximadamente el 26% del trabajo de investigación y desarrollo de la empresa, un aumento drástico desde menos del 1% hace solo unos meses. Esta tendencia se repite en la comunidad académica, donde una encuesta reciente identificó más de 1,250 artículos centrados en la auto-mejora de IA publicados entre julio y septiembre de 2026.

Además, una carta separada del Foro de Evaluadores de IA, firmada por más de 100 expertos, pide la inclusión de evaluadores independientes en cada laboratorio de IA de frontera para garantizar la seguridad y la responsabilidad. Si bien algunas empresas se han comprometido a permitir el acceso a evaluadores externos, la carta enfatiza que estos compromisos requieren respaldo institucional para ser efectivos.

La urgencia de este llamado a la regulación se subraya por los desafíos únicos que plantea la auto-mejora recursiva. Los modelos tradicionales de supervisión asumen la toma de decisiones humanas en el núcleo del desarrollo tecnológico, pero si los sistemas de IA pueden acelerar sus capacidades de manera autónoma, esta suposición puede dejar de ser válida.

En un desarrollo relacionado, más de 20 influyentes ejecutivos de IA, incluido el laureado con el Premio Nobel Geoffrey Hinton, han publicado un documento advirtiendo que la IA auto-mejorada podría llevar a una explosión de inteligencia, donde los sistemas se mejoran a sí mismos más allá del control humano. Abogan por marcos regulatorios que incluyan estándares técnicos globales para pruebas de seguridad de IA y evaluaciones independientes obligatorias antes del despliegue de modelos avanzados de IA.

A medida que el panorama del desarrollo de IA evoluciona, los llamados a una gobernanza y supervisión efectivas se vuelven cada vez más críticos para garantizar que los avances tecnológicos no superen las salvaguardias sociales.