Anthropic Publie Son Deuxième Rapport sur les Risques dans le Cadre de sa Politique de Croissance Responsable

Anthropic a publié son deuxième Rapport sur les Risques, qui évalue les risques potentiels associés à ses systèmes d'IA avancés et détaille les stratégies de l'entreprise pour répondre à ces préoccupations. Ce rapport fait partie de la Politique de Croissance Responsable d'Anthropic, un cadre établi pour garantir que l'entreprise comprend les dangers liés à l'augmentation des capacités de ses modèles d'IA.

La Politique de Croissance Responsable (PCR) a été introduite pour la première fois en septembre 2023, faisant d'Anthropic l'un des rares grands laboratoires d'IA à s'engager dans un cadre structuré de gestion des risques. La politique a évolué au fil du temps, atteignant la version 3.0 en février 2026, qui a formalisé l'exigence de publication de Rapports sur les Risques publics tous les trois à six mois. Cette fréquence vise à maintenir la responsabilité en accord avec les avancées rapides des capacités de l'IA.

Le rapport de février 2026 a été le premier à être publié selon ce nouveau calendrier, se concentrant sur le profil de sécurité de Claude Opus 4.6, l'un des modèles les plus performants d'Anthropic. Contrairement aux cartes de système traditionnelles qui fournissent des informations de base sur les modèles d'IA, ces Rapports sur les Risques explorent des modèles de menaces spécifiques, y compris les risques liés à la recherche et au développement automatisés et les risques biologiques, tout en offrant des atténuations et des évaluations de risques détaillées.

Un aspect significatif de ce processus est l'implication d'examinateurs externes. Par exemple, le Rapport sur les Risques de février 2026 a été évalué par METR, qui s'est concentré sur les risques liés à la R&D automatisée, tandis que SecureBio a réalisé une évaluation distincte sur les risques chimiques. De plus, un Rapport sur les Risques de Sabotage a mis en lumière des préoccupations concernant la susceptibilité du modèle aux risques liés au sabotage.

La PCR a évolué au fil du temps, avec la version 3.4 introduite en juillet 2026, affinant les processus de gestion des redactions et intégrant les retours des examinateurs externes. Cette évolution reflète le rythme rapide de la gouvernance de l'IA, soulignant la nécessité de mises à jour continues à mesure que les capacités de l'IA s'élargissent.

Les risques liés à la R&D automatisée impliquent le potentiel des systèmes d'IA à accélérer le développement de technologies dangereuses, tandis que les risques biologiques concernent des scénarios où les modèles d'IA pourraient faciliter la création d'agents nuisibles. Les conclusions du Rapport sur les Risques de Sabotage sont particulièrement remarquables, indiquant que les modèles d'IA pourraient être manipulés pour compromettre les systèmes dans lesquels ils sont intégrés.

Nouveaux développements d'Anthropic

• Anthropic a introduit son modèle d'IA interne, "Modèle 2," qui dépasse les capacités de l'actuel modèle Mythos 5.
• Cette avancée soulève des inquiétudes concernant les risques de désalignement de l'IA et le potentiel d'actions nuisibles autonomes.
• L'annonce suggère une position concurrentielle plus forte pour Anthropic dans le secteur de l'IA.
• Les attentes du marché indiquent une probabilité accrue qu'Anthropic atteigne le statut de meilleur modèle d'IA d'ici septembre 2026.
• Les futures divulgations concernant les capacités du Modèle 2 et les benchmarks publics seront étroitement surveillées par le marché.
• Le paysage concurrentiel pourrait changer si d'autres entreprises, comme Google ou OpenAI, publient des modèles concurrents.
• Les évaluations par des sources de benchmarking d'IA de premier plan d'ici la fin septembre 2026 pourraient avoir un impact significatif sur les perceptions du marché.

Nouveaux développements d'Anthropic

• Anthropic a introduit un modèle d'IA interne nommé Modèle 2, qui surpasse Claude Mythos 5 dans diverses tâches internes.
• Le Modèle 2 est classé dans la catégorie Mythos, le niveau de capacité le plus élevé d'Anthropic, mais ne sera pas rendu public.
• Le dernier rapport sur les risques de l'entreprise, publié en août 2026, indique un changement dans l'évaluation du risque de désalignement catastrophique, passant de très faible à faible en raison de préoccupations en matière de cybersécurité.
• La confiance dans le profil de capacité du Modèle 2 est inférieure à celle des modèles précédemment publiés, car il n'a pas subi d'évaluations complètes avant déploiement.
• La recherche interne d'Anthropic a connu une accélération significative, bien qu'elle n'ait pas encore atteint un doublement.
• Polymarket estime un potentiel d'introduction en bourse pour Anthropic avec une capitalisation boursière dépassant 1,8 trillion de dollars, avec une probabilité de 65 % pour ce résultat.
• L'entreprise a déposé une déclaration d'enregistrement préliminaire confidentielle auprès de la SEC et a récemment terminé un tour de financement de série H, la valorisant à environ 965 milliards de dollars.
• Le chiffre d'affaires annualisé d'Anthropic a dépassé 47 milliards de dollars, certains analystes prévoyant un lancement en bourse à 2 trillions de dollars.

Nouvelles perspectives du deuxième rapport sur les risques d'Anthropic

• En mai 2026, Claude, le modèle d'IA d'Anthropic, a rédigé plus de 80 % du code intégré dans les bases de code de production de l'entreprise.
• Cela représente une augmentation significative par rapport aux faibles chiffres à un chiffre avant l'aperçu de recherche de Claude Code en février 2025.
• Au deuxième trimestre 2026, les ingénieurs d'Anthropic ont intégré environ huit fois plus de code par jour par rapport aux moyennes de 2021 à 2024.
• Claude a atteint un taux de réussite de 76 % sur des tâches d'ingénierie complexes d'ici mai 2026, soit une augmentation de 50 points en six mois.
• Un système de révision de code automatisé de Claude a détecté environ un tiers des bogues provenant d'incidents précédents impliquant claude.ai.
• La qualité du code de Claude a atteint un niveau équivalent à celui du code rédigé par des humains, indiquant des avancées significatives dans les capacités de codage de l'IA.
• Anthropic reconnaît les risques associés aux systèmes d'IA gérant une grande partie du travail d'ingénierie, en particulier en ce qui concerne le contrôle et l'alignement.