Anthropic et Accenture investissent 2 milliards de dollars dans un partenariat d'évaluation de l'IA

Anthropic et Accenture ont annoncé un partenariat significatif visant à améliorer l'évaluation des modèles d'IA de pointe, s'engageant à investir au moins 1 milliard de dollars chacun au cours des cinq prochaines années. Cette collaboration verra Accenture intégrer des évaluateurs au sein d'Anthropic, permettant un examen approfondi des pratiques de sécurité en matière d'IA.

Cette initiative s'inscrit dans la stratégie plus large d'Anthropic, qui vise à permettre aux évaluateurs indépendants un accès permanent à ses modèles d'IA, en particulier à la famille Claude. En offrant aux évaluateurs un accès au niveau des employés, ce partenariat est conçu pour renforcer la transparence et la responsabilité dans le développement de l'IA.

Dirigés par Faculty, la branche spécialisée en IA d'Accenture, les évaluateurs travailleront en étroite collaboration avec les équipes d'Anthropic pour réaliser des évaluations d'alignement, tester des modèles de red team et évaluer les mesures de sécurité des modèles. Cette approche intégrée devrait fournir aux évaluateurs des informations comparables à celles des employés d'Anthropic, leur permettant d'observer les processus de formation et d'évaluer directement les engagements en matière de sécurité.

Bien que le cadre de ce partenariat reste expérimental, Anthropic a précédemment plaidé en faveur d'évaluations indépendantes financées par des mécanismes mutualisés ou soutenus par le gouvernement. Pour cette collaboration spécifique, cependant, Anthropic financera directement les efforts d'évaluation.

De plus, Anthropic est en discussion avec l'évaluateur à but non lucratif METR et prévoit d'annoncer bientôt d'autres partenaires d'évaluation. Cet arrangement permet à Accenture de collaborer avec d'autres développeurs d'IA, en soulignant que la responsabilité de la sécurité des modèles reste entre les mains d'Anthropic.