Исследователи ИИ и руководители призывают к регулированию самосовершенствующихся систем

В значительном шаге более 1,100 исследователей ИИ, включая главных ученых крупных компаний, таких как OpenAI, Anthropic, Google DeepMind, Meta и NVIDIA, подписали открытое письмо с призывом к правительству США установить международные механизмы для замедления или приостановки разработки продвинутых систем ИИ. Это письмо, озаглавленное «Управление границами», подчеркивает опасения по поводу рекурсивного самосовершенствования, когда модели ИИ могут потенциально улучшать свои собственные возможности с такой скоростью, что это превысит человеческий контроль.

Письмо отражает растущий консенсус среди разработчиков ИИ о том, что создаваемая ими технология может вскоре выйти из-под их контроля. Например, компания Anthropic сообщила, что ее флагманская модель, Claude, теперь составляет примерно 26% исследовательской и опытно-конструкторской работы компании, что является резким увеличением с менее 1% всего несколько месяцев назад. Эта тенденция также наблюдается в академическом сообществе, где недавний опрос выявил более 1,250 статей, посвященных самосовершенствованию ИИ, опубликованных в период с июля по сентябрь 2026 года.

Кроме того, отдельное письмо от Форума оценщиков ИИ, подписанное более чем 100 экспертами, призывает к включению независимых оценщиков в каждую лабораторию передового ИИ для обеспечения безопасности и подотчетности. Хотя некоторые компании пообещали предоставить внешним оценщикам доступ, в письме подчеркивается, что эти обязательства требуют институциональной поддержки для своей эффективности.

Срочность этого призыва к регулированию подчеркивается уникальными вызовами, связанными с рекурсивным самосовершенствованием. Традиционные модели контроля предполагают человеческое принятие решений в основе разработки технологий, но если системы ИИ могут автономно ускорять свои возможности, это предположение может больше не быть верным.

В связанном развитии более 20 влиятельных руководителей ИИ, включая лауреата Нобелевской премии Джеффри Хинтона, опубликовали статью, в которой предупреждают, что самосовершенствующийся ИИ может привести к взрыву интеллекта, когда системы будут улучшать себя за пределами человеческого контроля. Они выступают за создание регуляторных рамок, которые включают глобальные технические стандарты для тестирования безопасности ИИ и обязательные независимые оценки перед развертыванием продвинутых моделей ИИ.

По мере того как ландшафт разработки ИИ меняется, призывы к эффективному управлению и контролю становятся все более критичными, чтобы гарантировать, что технологические достижения не опережают социальные меры безопасности.