Les entreprises d'IA manquent d'assurance contre les risques catastrophiques, suscitant des inquiétudes dans l'industrie

La course entre les principales entreprises d'IA pour développer des systèmes avancés a mis en lumière un écart significatif en matière de gestion des risques : aucun des acteurs majeurs, y compris OpenAI, Google, Meta et Anthropic, ne dispose d'une couverture d'assurance pour les risques catastrophiques associés à leurs technologies. Cette révélation survient alors que ces entreprises émettent des avertissements sévères concernant les dangers potentiels de leurs systèmes d'IA.

Malgré la nature alarmante de leurs déclarations sur les risques, ces entreprises s'auto-assurent effectivement contre des catastrophes qui pourraient entraîner des dommages massifs ou des perturbations sociétales. Le marché de l'assurance manque actuellement de la capacité nécessaire pour souscrire à de tels événements à fort impact et à faible probabilité, laissant les développeurs d'IA avec des options limitées. Ils peuvent soit acheter des polices étroites avec une couverture restreinte, soit compter sur leurs propres ressources, soit dépendre du capital des investisseurs pour absorber les chocs potentiels.

OpenAI aurait une couverture d'assurance minimale pour les risques émergents liés à l'IA, avec des chiffres autour de 300 millions de dollars évoqués, bien que ce chiffre soit contesté. Les grandes entreprises optent de plus en plus pour des arrangements d'auto-assurance via des compagnies d'assurance captives, où elles agissent en tant qu'assureurs.

Le récent prospectus d'introduction en bourse d'Anthropic met en avant ces risques, consacrant une part importante du document aux conséquences catastrophiques potentielles d'une IA avancée, y compris des comportements d'auto-préservation qui pourraient menacer l'humanité. L'entreprise cherche des investissements publics tout en décrivant simultanément les dangers que les assureurs traditionnels ne sont pas prêts à couvrir.

À la lumière de ces développements, certains membres de la communauté des assurances plaident en faveur d'une assurance responsabilité obligatoire adaptée aux risques existentiels liés au développement de l'IA. Les propositions incluent la création d'une compagnie d'assurance mutuelle pour l'IA de pointe, où les développeurs regrouperaient les risques et imposeraient des normes de sécurité. Les obligations de catastrophe sont également envisagées comme un moyen pour les investisseurs de prendre en charge des risques de catastrophe spécifiques.

L'absence d'une couverture d'assurance significative place le fardeau des potentielles réclamations de responsabilité à grande échelle directement sur les entreprises elles-mêmes. Si des exigences d'assurance obligatoires étaient mises en œuvre, les entreprises d'IA feraient face à de nouveaux coûts, impactant significativement leurs opérations et la perception du marché.