El Concejo Municipal de Nueva York Invita a los CEOs de OpenAI y Anthropic para una Audiencia sobre la Seguridad de la IA

El Concejo Municipal de Nueva York está adoptando una postura proactiva sobre la seguridad de la inteligencia artificial al invitar a Sam Altman, CEO de OpenAI, y a Dario Amodei, CEO de Anthropic, a testificar en una audiencia especial programada para el 5 de octubre. Esta invitación, enviada por la presidenta del Concejo, Julie Menin, subraya el enfoque serio del Concejo para abordar los riesgos potenciales asociados con las tecnologías de IA.

La audiencia se llevará a cabo en un formato de "Comité de la Totalidad", que involucra a los 51 miembros del Concejo, siendo esta solo la segunda vez que se utiliza esta estructura desde 2022. Menin citó una "reciente ola de informes alarmantes" sobre el potencial de la IA para causar daños significativos, lo que llevó al Concejo a buscar perspectivas directamente de los líderes de la industria.

Tanto OpenAI como Anthropic tienen oficinas en la ciudad de Nueva York, lo que dificulta que declinen la invitación. El contexto de la audiencia incluye incidentes recientes donde los sistemas de IA mostraron comportamientos inesperados o peligrosos durante las pruebas, lo que ha generado preocupaciones sobre fallos en la contención de modelos en la industria.

Amodei ha sido vocal sobre la necesidad de un ritmo medido en el desarrollo de la IA, abogando por que la investigación en seguridad mantenga el paso con los avances. Altman ha expresado sentimientos similares, aunque el cronograma de desarrollo de OpenAI a veces ha parecido superar sus cautelosas declaraciones públicas.

El formato de Comité de la Totalidad sugiere que el Concejo está considerando medidas legislativas en lugar de simplemente llevar a cabo una sesión informativa. Nueva York tiene un historial de ser un pionero en la supervisión tecnológica, habiendo promulgado anteriormente leyes que regulan las herramientas de decisión de empleo automatizadas. Las posibles nuevas regulaciones podrían incluir requisitos de divulgación para los sistemas de IA y reportes de seguridad obligatorios para las empresas locales.

Nuevos Desarrollos en la Seguridad de la IA

• Demis Hassabis, cofundador y CEO de Google DeepMind, ha respaldado públicamente la desaceleración del desarrollo de IA de frontera a partir de septiembre de 2026 para permitir que la investigación en seguridad se ponga al día.
• Hassabis propuso la creación de un organismo de estándares financiado por la industria y liderado por EE. UU. para la prueba previa al lanzamiento de modelos de IA de frontera, centrándose en vulnerabilidades de ciberseguridad, potencial de amenazas biológicas y comportamiento agente.
• El exinvestigador de seguridad de AGI Bilal Chughtai renunció a DeepMind en julio de 2026, advirtiendo que la IA podría representar riesgos existenciales.
• Josh Engels, otro exmiembro del equipo de seguridad de AGI de DeepMind, dejó la empresa a principios de septiembre de 2026 para unirse a METR, citando una "posibilidad aterradora" de resultados catastróficos de sistemas de IA auto-mejorados en un plazo de cinco años.
• Una carta abierta firmada por más de 1,300 investigadores de laboratorios de IA de frontera enfatiza que las capacidades de la IA están avanzando más rápido que la comprensión de cómo controlarlas.

Nuevas Perspectivas sobre la Regulación de la IA

• El Rep. Brett Guthrie aboga por construir infraestructura de IA antes de establecer regulaciones, enfatizando la competencia con China sobre los marcos regulatorios.
• Propone un estándar nacional unificado para la regulación de la IA que reemplace el emergente mosaico de leyes estatales, sugiriendo una moratoria sobre las regulaciones estatales durante las deliberaciones del Congreso.
• Guthrie destaca la inversión proyectada de China de $295 mil millones en infraestructura de centros de datos durante los próximos cinco años como un factor clave en la urgencia de la acción regulatoria en EE. UU.
• La Ley de Protección de Consumidores de Tarifas busca proteger a los consumidores de los picos en los precios de electricidad debido a las demandas de energía de los centros de datos de IA.
• Un acuerdo del G20 alcanzado en septiembre de 2026 apoya regulaciones de IA más ligeras, alineándose más estrechamente con el enfoque de EE. UU., marcando un cambio respecto al dominio del modelo europeo anterior.

Nuevas Perspectivas sobre la Seguridad de la IA y la Inversión

El 11 de septiembre de 2023, Brad Gerstner, CEO de Altimeter Capital, criticó las recientes advertencias apocalípticas sobre la IA como "tácticas de miedo hiperbólicas" impulsadas por una agenda política en lugar de preocupaciones genuinas por la seguridad. Esta declaración siguió a la renuncia en Anthropic de Jacob Coxon, quien advirtió sobre un riesgo significativo de extinción humana debido a la superinteligencia, afirmando que muchos en los laboratorios de IA creen que hay más de un 10% de probabilidad de que tal resultado ocurra en la próxima década.

Gerstner argumentó que los desarrolladores de IA están tomando la seguridad más en serio que nunca y sugirió que las narrativas negativas en torno a la IA podrían estar influenciadas por intereses extranjeros, particularmente del Partido Comunista Chino, para obstaculizar la innovación en EE. UU.

En términos de inversiones, los informes del segundo trimestre de 2026 de Altimeter Capital revelaron nuevas posiciones significativas, incluyendo aproximadamente $347.9 millones en Qualcomm y alrededor de $241.8 millones en Micron Technology. Estas inversiones reflejan una creencia en la creciente demanda de tecnología de semiconductores, que apoya la infraestructura de IA.

Gerstner enfatizó la importancia de evitar la sobrerregulación en el sector de la IA, sugiriendo que las pesadas cargas de cumplimiento podrían desventajar a las empresas estadounidenses frente a sus contrapartes chinas, que operan bajo menos restricciones.

Nuevas Perspectivas sobre la Seguridad de la IA

El Secretario General de la ONU, António Guterres, emitió una advertencia el 16 de septiembre sobre los peligros de la inteligencia artificial que avanza rápidamente, abogando por una supervisión y coordinación global más fuertes.

Sus comentarios llegaron poco después de que Donald Trump desestimara las preocupaciones sobre los riesgos de la IA durante una visita a Irlanda, calificándolas de "engaño" impulsado por fuerzas negativas.

Guterres enfatizó que los desarrolladores de IA en la primera línea han señalado peligros potenciales, instando a la comunidad internacional a implementar medidas coordinadas para un desarrollo seguro de la IA.

El 7 de septiembre, el Jefe de Derechos Humanos de la ONU, Volker Türk, declaró que la IA avanzada podría representar un riesgo "existencial".

En contraste, Trump argumentó que las regulaciones y el liderazgo existentes en EE. UU. son suficientes para gestionar los riesgos de la IA, enmarcando a los defensores de la seguridad como alarmistas.

Líderes de la industria, incluidos el CEO de Anthropic, Dario Amodei, y Sam Altman de OpenAI, han pedido una desaceleración en el desarrollo de la IA, destacando una división entre los responsables de políticas y los constructores de tecnología.

EE. UU., hogar de los laboratorios de IA más grandes, corre el riesgo de concentrar el peligro con un enfoque regulatorio minimalista, que podría atraer inversiones pero también carece de salvaguardias esenciales.