Anthropic y Accenture invertirán $2 mil millones en asociación para la evaluación de IA

Anthropic y Accenture han anunciado una asociación significativa destinada a mejorar la evaluación de modelos de IA de vanguardia, comprometiéndose a invertir al menos $1 mil millones cada uno durante los próximos cinco años. Esta colaboración permitirá que Accenture integre evaluadores dentro de Anthropic, lo que facilitará un escrutinio profundo de las prácticas de seguridad en IA.

La iniciativa forma parte de la estrategia más amplia de Anthropic para permitir que evaluadores independientes tengan acceso permanente a sus modelos de IA, en particular a la familia Claude. Al proporcionar a los evaluadores acceso a nivel de empleado, la asociación está diseñada para fortalecer la transparencia y la responsabilidad en el desarrollo de IA.

Dirigidos por Faculty, el negocio especializado en IA de Accenture, los evaluadores trabajarán en estrecha colaboración con los equipos de Anthropic para llevar a cabo evaluaciones de alineación, pruebas de modelos de red team y evaluar las salvaguardias de los modelos. Este enfoque integrado se espera que proporcione a los evaluadores información comparable a la de los empleados de Anthropic, permitiéndoles observar los procesos de entrenamiento y evaluar los compromisos de seguridad directamente.

Si bien el marco para esta asociación sigue siendo experimental, Anthropic ha abogado anteriormente por que las evaluaciones independientes sean financiadas a través de mecanismos agrupados o respaldados por el gobierno. Sin embargo, para esta colaboración específica, Anthropic financiará directamente los esfuerzos de evaluación.

Además, Anthropic está en conversaciones con el evaluador sin fines de lucro METR y planea anunciar más socios de evaluación pronto. El acuerdo permite que Accenture colabore con otros desarrolladores de IA, enfatizando que la responsabilidad por la seguridad del modelo sigue siendo de Anthropic.