Google, OpenAI y Anthropic buscan establecer un organismo de estándares de seguridad en IA para 2027
Google DeepMind, OpenAI y Anthropic están en conversaciones para formar una organización independiente, liderada por la industria, enfocada en establecer estándares de seguridad en IA. Esta iniciativa, que comenzó en julio de 2026, tiene como objetivo crear protocolos compartidos para evaluar modelos avanzados de IA y realizar evaluaciones de seguridad independientes antes de que estos sistemas sean lanzados al público.
El CEO de Anthropic, Dario Amodei, ha enfatizado la necesidad de evaluadores externos en la seguridad de la IA, argumentando que el rápido ritmo de desarrollo de la IA supera la capacidad de cualquier entidad única para gestionar las implicaciones de seguridad. El CEO de OpenAI, Sam Altman, ha coincidido con este sentimiento, destacando la necesidad de estándares independientes ante la lenta regulación gubernamental.
A pesar de sus intenciones, las tres empresas enfrentan desafíos, ya que recibieron calificaciones de C+ o inferiores en el Índice de Seguridad de IA del Future of Life Institute 2026, que evalúa la transparencia y las prácticas de desarrollo responsable. Su colaboración anterior, el Frontier Model Forum, tenía como objetivo avanzar en la investigación de seguridad en IA, pero carecía de la estructura propuesta para el nuevo organismo de estándares.
A mediados de septiembre de 2026, no se ha establecido ninguna organización formal, lo que genera preocupaciones sobre la ejecución de esta iniciativa. Las empresas de IA más pequeñas deben ser conscientes de que, si los grandes actores logran crear estos estándares, los costos de cumplimiento podrían afectar desproporcionadamente a estas empresas, lo que podría llevar a una mayor consolidación en la industria.
Actualizado 15:32 UTC
Nuevos Desarrollos en el Razonamiento de IA
- Thore Graepel, co-creador de AlphaGo, ha dejado Google DeepMind para establecer una startup centrada en el razonamiento de IA.
- Actualmente está recaudando fondos iniciales en decenas de millones, con rondas futuras que se espera alcancen cientos de millones.
- Graepel tiene como objetivo enseñar a las máquinas a pensar a través de problemas, yendo más allá de simplemente aumentar el tamaño de los modelos de lenguaje.
- Su nueva empresa enfatiza métodos de búsqueda estructurada y planificación probabilística, en contraste con los enfoques tradicionales de modelos de lenguaje.
- La startup de Graepel apunta a cerrar la brecha entre la fluidez en el lenguaje y la competencia real en la resolución de problemas.
- En 2026 se ha observado una notable salida de talento senior de DeepMind, incluyendo a David Silver, otro arquitecto de AlphaGo, quien fundó Ineffable Intelligence.
- La tendencia de cambios en el liderazgo en DeepMind y el auge de startups en la financiación de IA están contribuyendo a esta fuga de cerebros.
- La planificación probabilística, un aspecto clave del enfoque de Graepel, trata explícitamente con la incertidumbre en los procesos de toma de decisiones.
FAQ
¿Cuál es el propósito del organismo propuesto para estándares de seguridad en IA?
El organismo propuesto para estándares de seguridad en IA tiene como objetivo establecer protocolos compartidos para evaluar modelos avanzados de IA y realizar evaluaciones de seguridad independientes antes de que estos sistemas sean liberados al público.
¿Quiénes son las principales empresas involucradas en esta iniciativa?
Las principales empresas involucradas en esta iniciativa son Google DeepMind, OpenAI y Anthropic.
¿Por qué creen las empresas que son necesarios evaluadores independientes?
Las empresas creen que son necesarios evaluadores independientes porque el rápido ritmo de desarrollo de la IA supera la capacidad de cualquier entidad única para gestionar eficazmente las implicaciones de seguridad.
¿Qué desafíos enfrentan estas empresas para establecer el organismo de estándares?
Las empresas enfrentan desafíos debido a sus bajas calificaciones en el Índice de Seguridad de IA del Future of Life Institute 2026, que evalúa la transparencia y las prácticas de desarrollo responsable, así como la falta de una organización formal a mediados de septiembre de 2026.
¿Cómo podría afectar el establecimiento de estos estándares a las empresas de IA más pequeñas?
Si los principales actores logran crear estos estándares, los costos de cumplimiento podrían afectar desproporcionadamente a las empresas de IA más pequeñas, lo que podría llevar a una mayor consolidación en la industria.
Comentarios
Los comentarios se moderan antes de publicarse.
Aún no hay comentarios — sé el primero.