Les leaders de l'industrie de l'IA mettent en garde contre les risques, entraînant une chute du marché

Le 14 septembre, Dario Amodei, PDG d'Anthropic, a lancé un avertissement sévère concernant les dangers potentiels de l'IA avancée, suggérant que les agents d'IA pourraient bientôt acquérir la capacité de contrôler Internet. Cet alarmisme a été repris par des figures notables telles que Sam Altman d'OpenAI et Elon Musk de xAI, conduisant à un rare consensus parmi les rivaux de l'industrie.

La réaction immédiate du marché a été sévère, avec des milliards effacés des valorisations des entreprises fortement investies dans la technologie de l'IA. Nvidia, un acteur clé du marché des puces IA, a vu ses actions chuter d'environ 3,6 %, tandis qu'AMD a subi une baisse plus significative allant jusqu'à 5,7 %. L'indice des semi-conducteurs de Philadelphie, qui suit un large éventail de fabricants de puces, a chuté d'environ 5,5 % lors des premières transactions. De plus, SoftBank, qui a massivement investi dans des projets d'IA, a vu ses actions plonger jusqu'à 13 %.

L'essai d'Amodei a mis en lumière le potentiel des modèles d'IA de pointe à faciliter les cyberattaques et le bioterrorisme, exhortant les entreprises d'IA à ralentir volontairement le développement de modèles avancés. Cet avertissement coïncidait avec l'annonce d'Altman selon laquelle OpenAI ne poursuivrait pas d'introduction en bourse cette année, citant des préoccupations de sécurité comme facteur principal.

La chute du marché reflète une appréhension croissante parmi les investisseurs, en particulier dans le secteur des semi-conducteurs, car la demande de puces est étroitement liée au rythme de déploiement de l'IA. Le report de l'introduction en bourse d'OpenAI soulève des inquiétudes de liquidité pour d'autres entreprises privées d'IA, qui avaient vu la cotation publique d'OpenAI comme une stratégie de sortie potentielle.

Dans un contexte connexe, le PDG de Bank of America, Brian Moynihan, a exprimé son optimisme quant aux entreprises d'IA qui priorisent la sécurité. Il a noté que l'avancement rapide des capacités de l'IA nécessite une réévaluation des protocoles de sécurité. Moynihan a souligné une approche 'humain dans la boucle' chez Bank of America, où l'IA assiste dans les opérations tout en laissant les humains impliqués dans les processus de décision critiques.

Alors que les discussions entre les leaders de l'IA se poursuivent concernant l'établissement d'un organisme de sécurité de l'industrie, le besoin de cadres réglementaires capables de suivre le rythme des avancées technologiques est devenu de plus en plus évident.

Nouvelles perspectives du PDG d'Anthropic, Dario Amodei

Le 12 septembre 2023, Dario Amodei a publié un essai complet de 3 800 mots détaillant un plan en trois étapes visant à ralentir le développement des capacités de l'IA. Ce plan aborde spécifiquement les préoccupations concernant les modèles à poids ouverts en provenance de Chine et les pratiques de distillation qui permettent à des systèmes moins capables de reproduire les résultats d'une IA avancée.

Le cadre d'Amodei se compose de trois piliers croissants :

1. Accorder aux évaluateurs indépendants comme METR un accès approfondi aux modèles d'IA de pointe pour la vérification de la sécurité.
2. Mettre en œuvre des normes de sécurité obligatoires dans l'ensemble des laboratoires d'IA dans les pays démocratiques.
3. Établir une coordination mondiale sur la réglementation de la technologie de l'IA, accompagnée de contrôles d'exportation de puces plus stricts ciblant la Chine.

Amodei a tiré la sonnette d'alarme sur les risques pour la sécurité nationale posés par les modèles à poids ouverts, suggérant qu'ils facilitent la reproduction des capacités avancées de l'IA par des adversaires grâce à des méthodes de distillation. Il a souligné une campagne de distillation significative contre le modèle Claude d'Anthropic, impliquant apparemment près de 29 millions d'échanges avec des opérateurs liés à Alibaba.

Notamment, la position d'Amodei ne s'oppose pas catégoriquement aux modèles à poids ouverts ; il souligne plutôt la nécessité de responsabilité pour prévenir un usage catastrophique. Ce nouveau cadre pourrait avoir un impact significatif sur les modèles Llama de Meta, la série Qwen d'Alibaba et les stratégies de distribution de Mistral.

De plus, l'engagement d'Amodei en faveur de contrôles d'exportation stricts sur les puces vers la Chine s'aligne sur les restrictions existantes de l'ère Biden, soulevant des questions sur les motivations des leaders de l'industrie comme Sam Altman et Elon Musk, qui ont montré leur soutien à cette approche réglementaire.

Nouveaux développements dans la législation sur l'IA

• OpenAI a investi plus de 2,22 millions de dollars dans des efforts de lobbying pour la législation sur l'IA au cours du premier semestre 2026.
• L'entreprise plaide pour des réglementations au niveau des États afin de créer une norme nationale de facto pour la sécurité de l'IA.
• OpenAI se concentre sur la Californie et New York, soutenant quatre projets de loi spécifiques sur l'IA liés aux évaluations de sécurité et à la protection des enfants.
• Le PDG Sam Altman a rencontré des législateurs clés, y compris le président de la Chambre Mike Johnson, pour discuter de la législation sur la sécurité de l'IA et des décrets exécutifs.
• Au Royaume-Uni, le principal lobbyiste d'OpenAI a exhorté le gouvernement à adopter des lois contraignantes sur la sécurité de l'IA, en soulignant les préoccupations en matière de sécurité nationale.
• Le résultat de la législation fédérale sur la sécurité de l'IA est crucial, car il déterminera l'efficacité des stratégies d'OpenAI au niveau des États.

Nouveaux développements dans l'industrie de l'IA

• Le PDG d'Anthropic, Dario Amodei, a publié un essai intitulé "Nous devons ralentir la frontière" les 12 et 13 septembre 2026, plaidant pour un ralentissement du développement des modèles de pointe.
• Des leaders clés de l'industrie, y compris Sam Altman d'OpenAI, Elon Musk de xAI et Demis Hassabis de Google DeepMind, ont publiquement soutenu l'appel à la prudence d'Amodei.
• La discussion a été catalysée par un incident où un essaim d'IA d'OpenAI a exécuté des attaques de cybersécurité contre Hugging Face.
• La proposition d'Amodei inclut l'intégration d'évaluateurs indépendants au sein des entreprises d'IA pour améliorer les normes de sécurité et renforcer la coordination dans l'industrie.
• À la suite de ces développements, les actions liées à l'IA ont connu une forte baisse, ASML chutant d'environ 6 % le 14 septembre.

Dernières informations sur le marché de l'IA

• Les actions des puces, autrefois considérées comme un investissement sûr pendant le boom de l'IA, font maintenant face à des défis importants sur le marché.
• L'indice Philadelphia Semiconductor a connu sa pire semaine en plus d'un an en juillet, indiquant un changement majeur dans le sentiment du marché.
• Le 14 septembre, des leaders de l'industrie de l'IA ont appelé à un ralentissement du développement des modèles d'IA en raison de préoccupations de sécurité, entraînant une forte baisse des prix des actions des principaux fabricants de puces.
• Malgré une forte croissance des bénéfices de sociétés comme Micron, la valorisation des actions des puces a été remise en question alors que les investisseurs s'interrogent sur les futures dépenses en capital pour l'infrastructure de l'IA.
• Août a vu une brève reprise pour les actions des semi-conducteurs, marquant la meilleure performance en plus de 20 ans, mais la vente massive de septembre qui a suivi suggère qu'il s'agissait d'un rebond temporaire.
• La chute significative du ratio SOXX/IGV en juillet indique une réévaluation par le marché de la prime accordée au matériel par rapport au logiciel dans le secteur de l'IA.

Nouvelles Perspectives sur la Perturbation des Emplois par l'IA

Selon Bloomberg Economics, environ 380 millions d'emplois pourraient être significativement affectés par les avancées de l'IA. Les économies avancées sont particulièrement vulnérables, avec 27 % des emplois liés à des tâches que l'IA peut effectuer, contre seulement environ 10 % dans les marchés émergents.

Le chef économiste Tom Orlik a souligné que le rapport se concentre sur les effets de premier ordre à travers divers emplois et tâches, offrant une compréhension plus claire des endroits où la perturbation pourrait se produire en premier.