Le Conseil de la ville de New York invite les PDG d'OpenAI et d'Anthropic pour une audition sur la sécurité de l'IA
Le Conseil de la ville de New York adopte une approche proactive en matière de sécurité de l'intelligence artificielle en invitant Sam Altman, PDG d'OpenAI, et Dario Amodei, PDG d'Anthropic, à témoigner lors d'une audition spéciale prévue pour le 5 octobre. Cette invitation, adressée par la présidente du Conseil, Julie Menin, souligne l'engagement sérieux du Conseil à traiter les risques potentiels associés aux technologies de l'IA.
L'audition se déroulera sous un format de "Comité plénier", impliquant les 51 membres du Conseil, ce qui n'est que la deuxième fois que cette structure est utilisée depuis 2022. Menin a cité une "vague récente de rapports alarmants" concernant le potentiel de l'IA à causer des dommages significatifs, incitant le Conseil à rechercher des éclaircissements directement auprès des leaders de l'industrie.
OpenAI et Anthropic ont tous deux des bureaux à New York, ce qui rend plus difficile pour eux de décliner l'invitation. Le contexte de l'audition inclut des incidents récents où des systèmes d'IA ont montré des comportements inattendus ou dangereux lors des tests, soulevant des inquiétudes concernant les échecs de confinement des modèles dans l'industrie.
Amodei a été vocal sur la nécessité d'un rythme mesuré dans le développement de l'IA, plaidant pour que la recherche sur la sécurité suive le rythme des avancées. Altman a exprimé des sentiments similaires, bien que le calendrier de développement d'OpenAI ait parfois semblé dépasser ses déclarations publiques prudentes.
Le format de Comité plénier suggère que le Conseil envisage des mesures législatives plutôt que de simplement tenir une session d'information. New York a une histoire d'initiative en matière de réglementation technologique, ayant précédemment adopté des lois régissant les outils de décision automatisée en matière d'emploi. De potentielles nouvelles réglementations pourraient inclure des exigences de divulgation pour les systèmes d'IA et des rapports de sécurité obligatoires pour les entreprises locales.
Mis à jour 14:32 UTC
Nouveaux développements en matière de sécurité de l'IA
- Demis Hassabis, co-fondateur et PDG de Google DeepMind, a publiquement soutenu le ralentissement du développement de l'IA de pointe à partir de septembre 2026 pour permettre à la recherche sur la sécurité de rattraper son retard.
- Hassabis a proposé la création d'un organisme de normalisation financé par l'industrie et dirigé par les États-Unis pour les tests préalables à la mise sur le marché des modèles d'IA de pointe, en se concentrant sur les vulnérabilités en matière de cybersécurité, le potentiel de menaces biologiques et le comportement agentique.
- L'ancien chercheur en sécurité de l'AGI Bilal Chughtai a démissionné de DeepMind en juillet 2026, avertissant que l'IA pourrait poser des risques existentiels.
- Josh Engels, un autre ancien membre de l'équipe de sécurité de l'AGI de DeepMind, a quitté début septembre 2026 pour rejoindre METR, citant une "chance terrifiante" de résultats catastrophiques provenant de systèmes d'IA auto-améliorants dans les cinq ans.
- Une lettre ouverte signée par plus de 1 300 chercheurs de laboratoires d'IA de pointe souligne que les capacités de l'IA avancent plus rapidement que la compréhension de la manière de les contrôler.
Mis à jour 14:32 UTC
Nouvelles Perspectives sur la Réglementation de l'IA
- Le représentant Brett Guthrie plaide pour la construction d'une infrastructure IA avant d'établir des réglementations, en mettant l'accent sur la concurrence avec la Chine plutôt que sur les cadres réglementaires.
- Il propose une norme nationale unifiée pour la réglementation de l'IA afin de remplacer le patchwork émergent des lois étatiques, suggérant un moratoire sur les réglementations étatiques pendant les délibérations du Congrès.
- Guthrie souligne que l'investissement projeté de 295 milliards de dollars de la Chine dans l'infrastructure des centres de données au cours des cinq prochaines années est un facteur clé de l'urgence d'une action réglementaire aux États-Unis.
- La loi sur la protection des consommateurs vise à protéger les consommateurs contre les hausses de prix de l'électricité dues aux demandes énergétiques des centres de données IA.
- Un accord du G20 atteint en septembre 2026 soutient des réglementations IA plus légères, s'alignant davantage sur l'approche américaine, marquant un changement par rapport à la domination du modèle européen précédent.
Mis à jour 15:03 UTC
Nouvelles Perspectives sur la Sécurité de l'IA et l'Investissement
Le 11 septembre 2023, Brad Gerstner, PDG d'Altimeter Capital, a critiqué les récents avertissements alarmistes concernant l'IA comme étant des "tactiques de peur hyperboliques" motivées par un agenda politique plutôt que par de réelles préoccupations de sécurité. Cette déclaration a suivi la démission de Jacob Coxon chez Anthropic, qui a averti d'un risque significatif d'extinction humaine dû à la superintelligence, affirmant que beaucoup dans les laboratoires d'IA croient qu'il y a plus de 10 % de chances qu'un tel résultat se produise dans la prochaine décennie.
Gerstner a soutenu que les développeurs d'IA prennent la sécurité plus au sérieux que jamais et a suggéré que les narrations négatives autour de l'IA pourraient être influencées par des intérêts étrangers, en particulier le Parti communiste chinois, pour freiner l'innovation américaine.
En termes d'investissements, les dépôts d'Altimeter Capital pour le deuxième trimestre 2026 ont révélé des positions nouvelles significatives, y compris environ 347,9 millions de dollars dans Qualcomm et environ 241,8 millions de dollars dans Micron Technology. Ces investissements reflètent une croyance dans la demande croissante pour la technologie des semi-conducteurs, qui soutient l'infrastructure de l'IA.
Gerstner a souligné l'importance d'éviter une sur-réglementation dans le secteur de l'IA, suggérant que de lourdes charges de conformité pourraient désavantager les entreprises américaines par rapport à leurs homologues chinois, qui opèrent sous moins de contraintes.
FAQ
Quel est l'objectif de l'audience du Conseil de la ville de New York sur la sécurité de l'IA ?
L'audience vise à aborder les risques potentiels associés aux technologies de l'IA et à recueillir des informations auprès des leaders de l'industrie, en invitant spécifiquement les PDG d'OpenAI et d'Anthropic.
Quand l'audience sur la sécurité de l'IA est-elle prévue ?
L'audience est prévue pour le 5 octobre.
Qui sont les figures clés invitées à témoigner lors de l'audience ?
Sam Altman, PDG d'OpenAI, et Dario Amodei, PDG d'Anthropic, ont été invités à témoigner.
Qu'est-ce qui a poussé le Conseil de la ville de New York à organiser cette audience ?
Le Conseil a été poussé par une récente vague de rapports alarmants concernant le potentiel de l'IA à causer des dommages significatifs, ainsi que des incidents où des systèmes d'IA ont montré des comportements inattendus ou dangereux.
Quelles mesures législatives le Conseil de la ville de New York pourrait-il envisager après l'audience ?
De nouvelles réglementations potentielles pourraient inclure des exigences de divulgation pour les systèmes d'IA et des rapports de sécurité obligatoires pour les entreprises locales.
Commentaires
Les commentaires sont modérés avant publication.
Pas encore de commentaires — soyez le premier.