Растущее недоверие среди лидеров ИИ вызывает опасения по поводу рисков в отрасли

Недавние обсуждения в индустрии ИИ подчеркивают растущие опасения по поводу интенсивной конкуренции и недоверия среди лидеров крупных компаний ИИ. Согласно отчету Financial Times, эти динамики могут представлять собой значительные риски для человечества, поскольку развитие мощных технологий ИИ ускоряется.

Поскольку такие компании, как Anthropic, ведут в инновациях в области ИИ, рыночные настроения, похоже, начинают меняться. Текущие данные указывают на небольшое снижение уверенности в том, что Anthropic сможет достичь оценки в 600 миллиардов долларов к концу года, с вероятностью, оцененной всего в 2,8%.

Основные выводы

• Рыночные цены отражают растущие опасения по поводу рисков, связанных с развитием ИИ.
• Уверенность инвесторов в компаниях ИИ, особенно в Anthropic, снижается.
• Стратегические объявления от Anthropic, такие как новое финансирование или партнерства, могут повлиять на траекторию ее оценки.

В сентябре 2026 года исследователь Anthropic Джейкоб Коксон подал в отставку, сославшись на риски саморазвивающегося суперинтеллекта и оценив вероятность человеческого вымирания из-за развития ИИ более чем в 10%. Эта отставка является частью более широкой тенденции, когда более 1300 сотрудников ИИ призвали к регуляторным мерам для замедления развития ИИ.

С нарастанием конкурентного давления дефицит доверия среди лидеров ИИ усложняет ситуацию. Генеральный директор Anthropic Дарио Амодеи и генеральный директор DeepMind Демис Хассабис выразили готовность приостановить развитие ИИ, при условии согласия со стороны своих конкурентов. Однако инциденты, такие как автономный взлом Hugging Face с помощью агентов OpenAI, показывают, что возможности ИИ могут опережать меры контроля.

Если правительства отреагируют на эти предупреждения значительными регуляциями, конкурентная среда может кардинально измениться. Компании, которые придают приоритет безопасности и управлению, могут оказаться в более выгодном положении на меняющемся рынке.

Новые разработки в области ИИ и математики

11 сентября 2026 года двадцать пять лауреатов медали Филдса, включая Терренса Тао, выпустили совместное заявление, подчеркивающее фундаментальное несоответствие между компаниями ИИ и математическим сообществом. Это заявление акцентирует внимание на том, что быстрые темпы развития ИИ конфликтуют с строгими процессами проверки, необходимыми для математики.

В заявлении указывается, что компании ИИ придают приоритет скорости и впечатляющим результатам, часто делая заявления о решении давних математических проблем, включая те, которые относятся к категории Премии Миллениума. Однако эти заявления часто не имеют подтверждения, что приводит к циклу, в котором яркие анонсы привлекают финансирование, в то время как фактическая работа по проверке игнорируется.

Это заявление следует за Лейденским заявлением от июня 2026 года, которое касалось более широких рисков, связанных с ИИ, для профессий, зависящих от глубоких знаний. Заявление лауреатов медали Филдса сужает фокус конкретно на том, как рыночные сроки компаний ИИ подрывают математическую целостность.

Хотя заявление обладает моральной властью, в нем отсутствуют механизмы принуждения, что позволяет компаниям ИИ продолжать свои текущие практики без контроля со стороны сообщества. Коллективный голос этих уважаемых математиков может повлиять на законодателей и агентства по финансированию в решении вопросов, связанных с математическими заявлениями, сгенерированными ИИ.