Деривативы
Компании ИИ не имеют страховки от катастрофических рисков, что вызывает беспокойство в отрасли
Соревнование среди ведущих компаний ИИ по разработке передовых систем выявило значительный пробел в управлении рисками: ни одна из крупных компаний, включая OpenAI, Google, Meta и Anthropic, не имеет страхового покрытия от катастрофических рисков, связанных с их технологиями. Это открытие стало особенно актуальным на фоне их резких предупреждений о потенциальных опасностях, связанных с их ИИ-системами.
Несмотря на тревожный характер их раскрытия рисков, эти компании фактически страхуют себя от катастроф, которые могут привести к массовым ущербам или социальным потрясениям. Страховой рынок в настоящее время не обладает возможностями для страхования таких высокоэффективных, но маловероятных событий, оставляя разработчиков ИИ с ограниченными вариантами. Они могут либо приобрести узкие полисы с ограниченным покрытием, полагаться на собственные ресурсы, либо зависеть от капитала инвесторов для поглощения потенциальных шоков.
Сообщается, что у OpenAI минимальное страховое покрытие для новых рисков ИИ, обсуждаются суммы около 300 миллионов долларов, хотя эта цифра оспаривается. Более крупные компании все чаще выбирают самострахование через капитальные страховые компании, где они выступают в роли своих собственных страховщиков.
Недавний проспект IPO компании Anthropic подчеркивает эти риски, уделяя значительную часть документа потенциальным катастрофическим последствиям от передового ИИ, включая самосохраняющиеся поведения, которые могут угрожать человечеству. Компания ищет публичные инвестиции, одновременно подчеркивая опасности, которые традиционные страховщики не готовы покрывать.
В свете этих событий некоторые представители страхового сообщества выступают за обязательное страхование ответственности, адаптированное к экзистенциальным рискам, связанным с развитием ИИ. Предложения включают создание взаимной страховой компании для передового ИИ, где разработчики могли бы объединять риски и устанавливать стандарты безопасности. Также рассматриваются катастрофические облигации как способ для инвесторов взять на себя конкретные риски катастроф.
Отсутствие значимого страхового покрытия возлагает бремя потенциальных крупных исков непосредственно на сами компании. Если будут введены обязательные требования к страхованию, компании ИИ столкнутся с новыми расходами, что значительно повлияет на их операции и восприятие на рынке.
FAQ
Почему крупные компании в области ИИ не имеют страховки от катастрофических рисков?
Крупные компании в области ИИ не имеют страховки от катастрофических рисков, потому что страховой рынок в настоящее время не имеет возможности подстраховать события с высоким воздействием и низкой вероятностью, связанные с передовыми технологиями ИИ.
Каковы последствия того, что компании ИИ страхуют себя от катастроф?
Страхование себя означает, что компании ИИ полагаются на свои собственные ресурсы или капитал инвесторов для поглощения потенциальных шоков от катастрофических событий, что возлагает бремя крупных исков по ответственности непосредственно на них.
Какие предложены решения для страхования рисков, связанных с ИИ?
Предложенные решения включают обязательное страхование ответственности, адаптированное к экзистенциальным рискам от ИИ, создание взаимной страховой компании для передового ИИ и рассмотрение катастрофических облигаций для инвесторов, чтобы взять на себя конкретные риски катастроф.
Какое страховое покрытие, по сообщениям, имеет OpenAI для возникающих рисков ИИ?
По сообщениям, у OpenAI минимальное страховое покрытие для возникающих рисков ИИ, обсуждаются суммы около 300 миллионов долларов, хотя эта цифра оспаривается.
Какие опасения поднимаются в проспекте IPO Anthropic относительно рисков ИИ?
Проспект IPO Anthropic подчеркивает потенциальные катастрофические последствия от передового ИИ, включая самосохраняющиеся поведения, которые могут угрожать человечеству, при этом ищет публичные инвестиции и описывает риски, которые традиционные страховщики не хотят покрывать.