Jacob Coxon témoignera lors de l'audience du Conseil de New York sur les risques de sécurité liés à l'IA

Jacob Coxon, qui a précédemment travaillé chez Anthropic, est prévu pour témoigner lors d'une audience du Conseil de New York axée sur les risques de sécurité associés à l'intelligence artificielle. Prévue pour le 5 octobre 2026, cette audience mettra également en avant des représentants de grandes entreprises d'IA, dont OpenAI, Google et Meta.

L'audience, convoquée par la présidente du Conseil, Julie Menin, impliquera l'ensemble des 51 membres du conseil, marquant un événement législatif significatif où des témoignages sous serment sur la sécurité de l'IA seront exigés pour la première fois aux États-Unis. Le conseil a contacté les PDG des grandes entreprises d'IA, y compris Dario Amodei d'Anthropic et Sam Altman d'OpenAI, les invitant à participer. Cependant, toutes les entreprises n'ont pas répondu positivement ; SpaceXAI a récemment été assignée à comparaître pour non-conformité.

Au cours de la session, les législateurs examineront plusieurs propositions législatives visant à améliorer la sécurité de l'IA. Parmi les mesures clés, on trouve l'exigence d'une validation par des tiers des systèmes d'IA utilisés dans la ville, l'établissement d'incitations pour les lanceurs d'alerte afin que les initiés signalent des pratiques dangereuses, et l'octroi aux individus du droit de poursuivre en justice pour les dommages causés par les systèmes d'IA.

Coxon, qui a démissionné d'Anthropic début septembre 2026, a été très vocal sur les dangers de l'IA, affirmant que les entreprises « jouent avec nos vies ». Sa démission et ses déclarations ultérieures ont considérablement influencé la demande pour cette audience, mettant en lumière une préoccupation croissante parmi certains chercheurs concernant les risques existentiels posés par les technologies avancées d'IA.

Mustafa Suleyman, PDG de Microsoft AI, a également commenté les implications de la démission de Coxon, la liant aux craintes concernant l'auto-modification de l'IA et le potentiel des systèmes à évoluer au-delà du contrôle humain. Ce débat en cours reflète des préoccupations plus larges au sein de l'industrie de l'IA concernant la gouvernance et les pratiques de sécurité.