Jacob Coxon testificará en la audiencia del Consejo de NYC sobre los riesgos de seguridad de la IA

Jacob Coxon, quien trabajó anteriormente en Anthropic, está programado para testificar en una audiencia del Consejo de Nueva York centrada en los riesgos de seguridad asociados con la inteligencia artificial. Esta audiencia, que se llevará a cabo el 5 de octubre de 2026, también contará con la participación de representantes de destacadas empresas de IA, incluyendo OpenAI, Google y Meta.

La audiencia, convocada por la presidenta del Consejo, Julie Menin, involucrará a los 51 miembros del consejo, marcando un evento legislativo significativo donde se exigirá testimonio bajo juramento sobre la seguridad de la IA por primera vez en EE. UU. El consejo ha contactado a los CEO de importantes empresas de IA, incluyendo a Dario Amodei de Anthropic y Sam Altman de OpenAI, invitándolos a participar. Sin embargo, no todas las empresas han respondido de manera positiva; SpaceXAI fue recientemente citada por no cumplir con la solicitud.

Durante la sesión, los legisladores considerarán varias propuestas legislativas destinadas a mejorar la seguridad de la IA. Las medidas clave incluyen la exigencia de validación por terceros de los sistemas de IA utilizados en la ciudad, el establecimiento de incentivos para denunciantes que informen sobre prácticas peligrosas y la concesión a los individuos del derecho a demandar por daños causados por sistemas de IA.

Coxon, quien renunció a Anthropic a principios de septiembre de 2026, ha sido muy crítico sobre los peligros de la IA, afirmando que las empresas están “jugando con nuestras vidas”. Su renuncia y las declaraciones posteriores han influido significativamente en el impulso por esta audiencia, destacando una creciente preocupación entre algunos investigadores sobre los riesgos existenciales que plantean las tecnologías avanzadas de IA.

Mustafa Suleyman, CEO de Microsoft AI, también ha comentado sobre las implicaciones de la renuncia de Coxon, vinculándola a los temores respecto a la auto-modificación de la IA y el potencial de que los sistemas evolucionen más allá del control humano. Este debate en curso refleja preocupaciones más amplias dentro de la industria de la IA sobre la gobernanza y las prácticas de seguridad.