Dario Amodei d'Anthropic appelle à un ralentissement du développement de l'IA face aux préoccupations de sécurité

Dario Amodei, le PDG d'Anthropic, a établi un parallèle frappant entre la compétition actuelle en matière d'IA entre les États-Unis et la Chine et la guerre froide, soulignant la nécessité d'un ralentissement délibéré du développement de l'IA pour atténuer les risques potentiels. Lors d'une récente apparition dans l'émission CBS Sunday Morning et dans son essai intitulé « Nous devons rythmer la frontière », Amodei soutient que la recherche sur la sécurité accuse un retard par rapport au rythme rapide du développement des modèles, ce qui pourrait entraîner des conséquences catastrophiques.

L'essai d'Amodei, publié le 12 septembre, met en lumière les risques imminents des systèmes d'IA avancés qui pourraient dominer Internet dans un court laps de temps de six à douze mois. Il décrit le problème central comme étant l'auto-amélioration récursive, où les systèmes d'IA pourraient évoluer de manière imprévisible une fois qu'ils atteignent un certain seuil de capacité. Sa solution proposée n'est pas un arrêt complet du développement de l'IA, mais plutôt un effort coordonné entre les laboratoires d'IA pour ralentir les progrès tout en garantissant la sécurité et l'alignement avec les intentions humaines.

Cette demande de prudence a reçu le soutien d'autres figures éminentes du secteur de l'IA, y compris Sam Altman, PDG d'OpenAI, Demis Hassabis, PDG de Google DeepMind, ainsi qu'Elon Musk. Cependant, Amodei reconnaît le dilemme posé par le paysage concurrentiel avec la Chine, suggérant que les États-Unis devraient restreindre les exportations de puces d'IA avancées pour freiner les capacités d'IA de la Chine et engager des discussions diplomatiques similaires aux accords historiques de contrôle des armements.

Les implications de l'avertissement d'Amodei se font déjà sentir sur les marchés financiers, avec une chute marquée des contrats à terme sur actions américaines suite à la publication de son essai. Les contrats à terme du Nasdaq 100 ont chuté de 1,2 %, tandis que des indices majeurs comme le Dow Jones et le S&P 500 ont également enregistré des baisses. Ce retournement reflète une incertitude croissante des investisseurs alors que l'industrie de l'IA fait face à des préoccupations de sécurité dans un contexte de pressions géopolitiques.

Les actions du groupe SoftBank ont également subi un coup dur, chutant de plus de 13 % après les déclarations d'Amodei et l'annonce d'Altman de retarder l'introduction en bourse d'OpenAI en raison de préoccupations de sécurité. L'investissement significatif de SoftBank dans OpenAI rend son action particulièrement sensible aux développements dans le secteur de l'IA, illustrant davantage l'interconnexion entre les avancées de l'IA, les discussions sur la sécurité et les réactions du marché.

Alors qu'Anthropic et OpenAI naviguent dans ce paysage complexe, la tension entre l'avancement technologique rapide et la nécessité d'une supervision de la sécurité continue de croître, soulevant des questions critiques sur l'avenir du développement de l'IA et ses implications plus larges.