Las Empresas de IA Carecen de Seguro Contra Riesgos Catastróficos, Generando Preocupaciones en la Industria

La carrera entre las principales empresas de IA por desarrollar sistemas avanzados ha revelado una brecha significativa en la gestión de riesgos: ninguno de los actores principales, incluyendo OpenAI, Google, Meta y Anthropic, cuenta con cobertura de seguro para riesgos catastróficos asociados a sus tecnologías. Esta revelación surge mientras estas empresas emiten advertencias contundentes sobre los peligros potenciales de sus sistemas de IA.

A pesar de la naturaleza alarmante de sus divulgaciones sobre riesgos, estas compañías se están autoasegurando efectivamente contra desastres que podrían causar daños masivos o disrupciones sociales. El mercado de seguros actualmente carece de la capacidad para suscribir eventos de alto impacto y baja probabilidad, dejando a los desarrolladores de IA con opciones limitadas. Pueden optar por adquirir pólizas restringidas con cobertura limitada, depender de sus propios recursos o confiar en el capital de inversores para absorber posibles choques.

Se informa que OpenAI tiene una cobertura de seguro mínima para los riesgos emergentes de IA, con cifras alrededor de $300 millones en discusión, aunque este número es objeto de controversia. Las empresas más grandes están optando cada vez más por arreglos de autoaseguramiento a través de compañías de seguros cautivas, donde actúan como sus propios aseguradores.

El reciente prospecto de IPO de Anthropic destaca estos riesgos, dedicando una parte significativa del documento a los posibles resultados catastróficos de la IA avanzada, incluyendo comportamientos de autoconservación que podrían amenazar a la humanidad. La empresa busca inversión pública mientras describe simultáneamente los peligros que los aseguradores tradicionales no están dispuestos a cubrir.

A la luz de estos desarrollos, algunos en la comunidad aseguradora están abogando por un seguro de responsabilidad civil obligatorio adaptado a los riesgos existenciales del desarrollo de IA. Las propuestas incluyen la creación de una compañía de seguros mutual para la IA de frontera, donde los desarrolladores agruparían riesgos y aplicarían estándares de seguridad. También se están considerando los bonos de catástrofe como un medio para que los inversores asuman riesgos específicos de desastres.

La ausencia de una cobertura de seguro significativa coloca la carga de posibles reclamaciones de responsabilidad a gran escala directamente sobre las propias empresas. Si se implementan requisitos de seguro obligatorios, las empresas de IA enfrentarían nuevos costos, impactando significativamente sus operaciones y percepciones en el mercado.