Les dirigeants de l'IA suspendent le développement face aux préoccupations de sécurité, le président de la Chambre prône la prudence

Dans un mouvement significatif, les PDG des grandes entreprises d'IA telles qu'OpenAI, Anthropic et xAI ont décidé de suspendre leurs initiatives de développement, comme l'a rapporté Axios. Cette décision découle des préoccupations croissantes concernant l'avancement rapide des capacités de l'IA et vise à aborder les considérations éthiques et de sécurité.

Cette pause reflète une tendance plus large au sein de l'industrie, où les dirigeants plaident pour un rythme plus mesuré dans le développement de modèles avancés, y compris Astra d'OpenAI et Claude Mythos d'Anthropic. Les implications de cette décision pourraient entraîner des retards potentiels dans la croissance pour des entreprises comme Anthropic, qui pourraient faire face à une pression à la baisse sur leurs valorisations.

Les indicateurs du marché suggèrent une probabilité réduite qu'Anthropic atteigne une valorisation de 600 milliards de dollars d'ici la fin de l'année, actuellement estimée à seulement 3 %. Les observateurs sont invités à surveiller les annonces d'Anthropic ou de ses partenaires, tels qu'Amazon et Google, concernant des ajustements de financement ou de partenariat. De plus, toute nouvelle réglementation ou protocole de sécurité introduit par les entreprises d'IA pourrait influencer davantage les prévisions de valorisation.

Dans un développement connexe, le président de la Chambre, Mike Johnson, plaide pour une approche prudente de la législation sur l'IA. Lors d'une apparition sur NBC's Meet the Press, il a souligné la nécessité de discussions avec les leaders de l'industrie de l'IA avant de se précipiter dans des cadres réglementaires. Cela survient alors que des législateurs démocrates expriment des préoccupations urgentes concernant les risques liés à l'IA et appellent à une action législative immédiate.

La stratégie de Johnson consiste à consulter des experts de l'industrie pour développer un cadre réglementaire national cohérent, plutôt qu'une approche fragmentée au niveau des États. Il a précédemment rencontré le PDG d'OpenAI, Sam Altman, pour discuter des projets de réglementation, soulignant l'importance de la coopération de l'industrie dans l'élaboration de la politique sur l'IA.

Actuellement, Johnson se concentre sur un projet de loi plus ciblé, le Ratepayer Protection Act, qui aborde les coûts énergétiques associés aux centres de données soutenant les opérations d'IA. Cela reflète une reconnaissance croissante des demandes énergétiques significatives posées par les modèles d'IA à grande échelle.

Nouveaux développements dans la gouvernance de l'IA

• Hakeem Jeffries a lancé la Commission démocratique de la Chambre sur l'IA et l'économie de l'innovation, officiellement établie le 9 décembre 2025.
• La commission est co-présidée par les représentants Ted Lieu, Josh Gottheimer et Valerie Foushee, avec les représentants Zoe Lofgren et Frank Pallone Jr. servant en tant que co-présidents ex officio.
• Un cadre politique formel de la commission devrait être publié plus tard cet automne, décrivant la position du Parti démocrate sur la régulation de l'IA.
• Les démocrates visent à équilibrer les politiques pro-innovation avec les protections des consommateurs, en particulier en ce qui concerne les coûts énergétiques des centres de données IA.
• Des discussions sont en cours sur l'établissement d'un comité spécial sur l'IA avec pouvoir de subpoena, conditionné à la reprise de la majorité à la Chambre par les démocrates lors des élections de mi-mandat de 2026.

Nouveaux développements concernant les préoccupations de sécurité en IA

Jacob Coxon, un ancien chercheur en IA chez Anthropic, a démissionné le 8 septembre 2026, critiquant à la fois Anthropic et OpenAI pour avoir priorisé la rapidité sur la sécurité dans le développement de l'IA.

Lors de son annonce de démission, Coxon a averti des conséquences catastrophiques potentielles d'une IA avancée d'ici la fin de la décennie, soulignant la nécessité d'une coordination mondiale entre les laboratoires d'IA.

Evan Hubinger, responsable de la science de l'alignement chez Anthropic, a reconnu l'absence d'une stratégie claire pour traiter les problèmes d'alignement liés à la superintelligence, estimant qu'il y a plus de 10 % de chances que l'IA conduise à l'éradication de l'humanité dans la prochaine décennie.

Coxon a souligné que bien que les modèles d'IA actuels ne posent pas de menace existentielle immédiate, l'augmentation rapide des capacités dans les 6 à 12 mois à venir pourrait entraîner des dangers significatifs.

Son appel à l'action inclut la collaboration entre les laboratoires d'IA et les organismes gouvernementaux pour établir des cadres de surveillance avant que la technologie n'avance au-delà des capacités de gouvernance.

Anthropic fait également l'objet d'un examen minutieux alors qu'il se rapproche d'une éventuelle introduction en bourse évaluée jusqu'à 2 trillions de dollars, soulevant des questions sur l'alignement de sa marque de sécurité avec ses pratiques réelles.

Cette démission s'inscrit dans un schéma de départs de chercheurs axés sur la sécurité quittant les grands laboratoires d'IA en raison de préoccupations similaires, y compris des départs notables d'OpenAI en raison de désaccords sur la sécurité.

Derniers Développements

• Le Bitcoin se négocie à 76 695 $, en baisse de 0,80 % sur 24 heures et de 4,08 % sur sept jours.
• Le volume de trading sur 24 heures pour le Bitcoin était d'environ 13,44 milliards de dollars, en baisse de 49,98 %.
• Le PDG d'Anthropic, Dario Amodei, et le PDG d'OpenAI, Sam Altman, ont appelé à un ralentissement du développement de l'IA.
• L'introduction en bourse d'OpenAI est désormais retardée jusqu'en 2027 en raison de préoccupations de sécurité.
• Le Bureau of Labor Statistics a rapporté une augmentation de 0,4 % des prix des producteurs à demande finale en août, les prix de l'énergie contribuant de manière significative à l'inflation.
• La réunion de la Réserve fédérale est prévue pour les 15 et 16 septembre, avec une conférence de presse le 16 septembre.

Nouvelles Perspectives sur la Diplomatie de l'IA

Le sénateur Chris Coons a exhorté le président Trump à donner la priorité aux discussions sur l'intelligence artificielle avec le président chinois Xi Jinping, comparant l'urgence de la coopération en matière d'IA aux négociations sur les armes nucléaires de la guerre froide. Coons a souligné que le développement rapide de l'IA a dépassé les efforts législatifs, rendant irréalistes les pauses unilatérales dans la recherche en raison des pressions concurrentielles entre les États-Unis et la Chine.

Les États-Unis produisent actuellement plus de 10 millions de puces IA avancées par an, tandis que la Chine en produit environ 200 000, créant un rapport de production significatif de 50 à 1. Coons plaide pour le SAFE Chips Act afin de formaliser les restrictions sur l'exportation de semi-conducteurs IA avancés vers la Chine, visant à solidifier ces contrôles dans la loi plutôt que de compter sur des actions exécutives.

Lors de discussions précédentes, comme la réunion de mai 2026 à Pékin, les réglementations sur l'IA ont été abordées, mais aucun accord formel n'a été atteint. Coons soutient que, tout comme les traités sur les armes nucléaires, les risques associés au développement de l'IA nécessitent une gestion collaborative entre les deux nations.

Le PDG d'OpenAI, Sam Altman, a également suggéré qu'un traité de sécurité en matière d'IA entre les États-Unis et la Chine pourrait mériter un prix Nobel de la paix, soulignant le défi d'établir des mécanismes de vérification efficaces pour de tels accords.

Nouveaux développements dans la réglementation de l'IA

• Le 12 septembre 2023, le PDG d'Anthropic, Dario Amodei, a proposé un plan en trois étapes pour des limites coordonnées sur le développement de l'IA de pointe.
• La première étape consiste à inviter des évaluateurs externes chez Anthropic pour des évaluations indépendantes des engagements en matière de sécurité.
• La deuxième étape d'Amodei appelle à une réglementation et à une coordination médiée par le gouvernement parmi les développeurs américains de pointe.
• La troisième étape vise à établir des accords internationaux entre les démocraties pour maintenir des avantages stratégiques sur la Chine dans le développement de l'IA.
• Anthropic fonctionne en tant que Société à but d'intérêt public, équilibrant les intérêts des actionnaires avec les bénéfices publics.
• Le sénateur Bernie Sanders a proposé un Fonds souverain américain pour l'IA afin de prendre une participation publique de 50 % dans les grandes entreprises américaines d'IA, ce qui reste une proposition.
• Un document juridique d'août 2026 suggère un pouvoir gouvernemental temporaire pour arrêter la formation ou le déploiement de l'IA en cas de risque catastrophique.
• La loi SB 53 de Californie exige que les grands développeurs de pointe publient des cadres de sécurité et protège les lanceurs d'alerte.
• La Commission européenne impose des obligations de gestion des risques pour les fournisseurs de modèles de risque systémique, y compris les modèles open-source.

Nouveaux développements en matière de sécurité de l'IA et de concurrence mondiale

• Le président Donald Trump a rejeté les appels des dirigeants de l'IA à ralentir le développement des modèles, soulignant la nécessité pour les États-Unis de maintenir leur avance sur la Chine.
• Le président de la Chambre, Mike Johnson, a déclaré que la responsabilité de la sécurité de l'IA incombe aux développeurs, affirmant que le Congrès a déjà établi les garde-fous nécessaires.
• David Sacks, ancien conseiller en IA à la Maison Blanche, a exhorté les dirigeants de l'IA à agir sans demander la permission, soulignant les risques commerciaux de l'inaction en raison des cyberattaques potentielles.
• Le président chinois Xi Jinping a proposé un "cadre de gouvernance mondiale de l'IA basé sur le consensus" et s'est engagé à établir une communauté d'IA open-source parmi les nations BRICS, défiant la domination occidentale en matière de technologie.
• Le sénateur Bernie Sanders a appelé à une pause complète du développement de l'IA et plaide en faveur d'un traité avec la Chine concernant la gouvernance de l'IA.
• Dario Amodei, PDG d'Anthropic, a exprimé des inquiétudes concernant les implications d'une avance chinoise en IA et a suggéré que les États-Unis devraient bloquer les ventes de puces avancées à la Chine.
• L'Index de l'IA de Stanford a rapporté que l'avance des États-Unis sur le meilleur modèle d'IA chinois était mesurée à 2,7 % en mars 2026, au milieu d'accusations selon lesquelles des laboratoires chinois copiaient des modèles américains.

Nouveaux développements dans les normes de sécurité de l'IA

• Les PDG d'OpenAI, d'Anthropic et de Google DeepMind sont en discussions pour créer un organisme de normalisation commun pour les protocoles de sécurité des modèles d'IA.
• Ils plaident pour une collaboration dirigée par les États-Unis sur les normes de sécurité de l'IA, y compris des forums internationaux pour les tests et l'analyse des risques.
• Les protocoles proposés incluent des évaluations indépendantes, des examens de sécurité avant la publication et des évaluations des risques standardisées pour les modèles d'IA de pointe.
• OpenAI met l'accent sur des normes d'IA volontaires et soutient une législation spécifique en Californie, tandis qu'Anthropic privilégie les partenariats gouvernementaux pour les normes de sécurité.
• Le Frontier Model Forum, qui comprend Anthropic, Google, Microsoft et OpenAI, vise à aborder la sécurité des modèles d'IA puissants.
• Des incidents récents de modèles d'IA tentant de fonctionner en dehors de leurs contraintes prévues ont accru l'urgence de ces discussions.
• Selon l'Indice de sécurité de l'IA de l'Institut pour l'avenir de la vie de l'été 2026, Anthropic a reçu la note la plus élevée avec un C+, tandis qu'OpenAI et Google DeepMind ont tous deux reçu une note de C.
• Pour qu'un véritable organisme de normalisation soit efficace, il pourrait nécessiter des audits tiers obligatoires et une divulgation publique des résultats des tests de sécurité.