Anthropic Enfrenta Scrutinio Mientras Investigadores Advierte sobre Riesgos de IA y Retiene Nuevo Modelo de Evaluadores del Reino Unido

Anthropic, el laboratorio de IA con sede en San Francisco conocido por su familia de modelos Claude, ha tomado la decisión de retener su último modelo de IA de los evaluadores en el Reino Unido. Este movimiento se alinea con la práctica establecida de la empresa de restringir el acceso a sus sistemas avanzados para evaluaciones de seguridad, reflejando las preocupaciones continuas sobre los riesgos de ciberseguridad.

Anteriormente, Anthropic había colaborado con el Instituto de Seguridad de IA del Reino Unido y otros socios para pruebas de seguridad controladas. Sin embargo, la decisión de retener el modelo indica un enfoque cauteloso por parte de Anthropic en la liberación de sistemas de IA de vanguardia, lo que podría impactar su posición competitiva en el mercado de IA en rápida evolución.

Sumando al escrutinio, Jacob Coxon, un exinvestigador de Anthropic, ha advertido públicamente que los laboratorios de IA, incluyendo Anthropic y OpenAI, están compitiendo hacia una superinteligencia auto-mejorada, que, según él, podría representar un riesgo significativo para la humanidad. Coxon, quien renunció a Anthropic, expresó su preocupación de que la trayectoria de la tecnología es ampliamente subestimada y que las conversaciones privadas dentro de la industria revelan un marcado contraste con el mensaje público.

Otra figura clave en Anthropic, Jan Leike, también ha expresado preocupaciones, sugiriendo que hay más de un 10% de probabilidad de que la IA pueda llevar a la extinción humana en la próxima década. Estas declaraciones destacan el debate en curso sobre los peligros de los sistemas de IA avanzados y plantean preguntas sobre el futuro de Anthropic y su valoración.

A medida que la situación se desarrolla, los observadores están atentos a cualquier respuesta oficial de Anthropic y sus socios estratégicos, así como a posibles cambios en la valoración del mercado relacionados con la empresa.