Google, OpenAI et Anthropic visent à établir un organisme de normes de sécurité pour l'IA d'ici 2027

Google DeepMind, OpenAI et Anthropic sont en pourparlers pour former une organisation indépendante dirigée par l'industrie, axée sur l'établissement de normes de sécurité pour l'IA. Cette initiative, qui a débuté en juillet 2026, vise à créer des protocoles communs pour évaluer les modèles d'IA avancés et réaliser des évaluations de sécurité indépendantes avant que ces systèmes ne soient mis à la disposition du public.

Le PDG d'Anthropic, Dario Amodei, a souligné la nécessité d'évaluateurs externes en matière de sécurité de l'IA, arguant que le rythme rapide du développement de l'IA dépasse la capacité de toute entité unique à gérer les implications en matière de sécurité. Le PDG d'OpenAI, Sam Altman, a fait écho à ce sentiment, mettant en avant la nécessité de normes indépendantes face à la lenteur de la réglementation gouvernementale.

Malgré leurs intentions, les trois entreprises font face à des défis, ayant reçu des notes de C+ ou inférieures sur l'Indice de sécurité de l'IA de l'Institut Future of Life 2026, qui évalue la transparence et les pratiques de développement responsables. Leur précédente collaboration, le Frontier Model Forum, visait à faire progresser la recherche sur la sécurité de l'IA mais manquait de la structure proposée pour le nouvel organisme de normes.

À la mi-septembre 2026, aucune organisation formelle n'a été établie, soulevant des inquiétudes quant à l'exécution de cette initiative. Les petites entreprises d'IA doivent être conscientes que si les grands acteurs réussissent à créer ces normes, les coûts de conformité pourraient les affecter de manière disproportionnée, entraînant potentiellement une consolidation accrue dans l'industrie.

Nouveaux Développements dans le Raisonnement AI

• Thore Graepel, co-créateur d'AlphaGo, a quitté Google DeepMind pour établir une startup axée sur le raisonnement AI.
• Il est actuellement en train de lever des fonds initiaux de plusieurs dizaines de millions, avec des tours futurs qui devraient atteindre des centaines de millions.
• Graepel vise à apprendre aux machines à réfléchir à des problèmes, allant au-delà de la simple augmentation de la taille des modèles de langage.
• Sa nouvelle entreprise met l'accent sur des méthodes de recherche structurées et la planification probabiliste, contrastant avec les approches traditionnelles des modèles de langage.
• La startup de Graepel cible le fossé entre la fluidité dans le langage et la réelle compétence en résolution de problèmes.
• 2026 a vu un exode notable de talents seniors de DeepMind, y compris David Silver, un autre architecte d'AlphaGo, qui a fondé Ineffable Intelligence.
• La tendance des changements de leadership chez DeepMind et le boom des startups dans le financement AI contribuent à ce drain de cerveaux.
• La planification probabiliste, un aspect clé de l'approche de Graepel, traite explicitement de l'incertitude dans les processus de prise de décision.