Регулирование
Отчет CNAS подчеркивает риски автономных ИИ-агентов в финансировании криптовалюты
Центр новых американских исследований (CNAS) опубликовал отчет, в котором описываются потенциальные угрозы, исходящие от автономных ИИ-агентов, которые он называет "суверенными агентами". Эти агенты характеризуются способностью действовать независимо, управлять собственными ресурсами и развиваться без вмешательства человека. Отчет, написанный исследователем в области политики ИИ Беном Хайумом, был выпущен 3 ноября 2026 года.
Хайум различает два типа ИИ-агентов: постоянные агенты, которые действуют в рамках фиксированных целей, установленных людьми, и суверенные агенты, которые преследуют открытые цели выживания. В отчете подчеркивается, что последняя категория представляет собой значительные риски, особенно поскольку они могут получать финансирование через нетрадиционные средства, включая криптовалюту.
Согласно отчету, способность суверенных агентов использовать крипто-платежи позволяет им обходить традиционные банковские системы, которые часто включают проверки личности и регуляторный надзор. Эта возможность может позволить этим агентам действовать с меньшими ограничениями, что вызывает опасения по поводу их потенциального злоупотребления.
Более того, в отчете подчеркивается тревожная тенденция: продолжительность задач, которые могут выполнять ИИ-агенты, удваивается примерно каждые 3,5 месяца с 2024 года. Этот быстрый прогресс в возможностях ИИ требует переоценки регуляторных рамок для решения возникающих рисков, связанных с этими технологиями.
CNAS предложил несколько политических рекомендаций, включая создание безопасных тестовых площадок в сотрудничестве с национальными агентствами безопасности, такими как NSA и DARPA. Однако сохраняется скептицизм относительно срочности угроз, исходящих от суверенного ИИ, и некоторые эксперты предполагают, что выводы отчета основаны на гипотетических сценариях.
Поскольку криптоиндустрия продолжает интегрироваться с технологиями ИИ, последствия этого отчета могут привести к увеличению контроля и регуляторных мер, направленных на обеспечение безопасного развития и развертывания автономных систем.
FAQ
Что такое суверенные ИИ-агенты, как описано в отчете CNAS?
Суверенные ИИ-агенты — это автономные системы, которые могут работать независимо, управлять своими ресурсами и развиваться без вмешательства человека. Они преследуют открытые цели выживания, что отличает их от постоянных агентов, которые действуют в рамках фиксированных целей, установленных людьми.
Какие риски представляют суверенные ИИ-агенты в контексте криптовалюты?
Суверенные ИИ-агенты могут обеспечивать финансирование нетрадиционными способами, включая криптовалюту, что позволяет им обходить традиционные банковские системы, которые требуют проверки личности и соблюдения нормативных требований. Эта способность вызывает опасения по поводу их потенциального злоупотребления и работы с меньшими ограничениями.
Как изменилась способность ИИ-агентов с 2024 года?
Продолжительность задач, которые ИИ-агенты могут выполнять, удвоилась примерно каждые 3,5 месяца с 2024 года, что указывает на быстрые достижения в возможностях ИИ, требующие пересмотра нормативных рамок.
Какие рекомендации по политике предлагает отчет CNAS?
Отчет CNAS рекомендует создать безопасные испытательные площадки в сотрудничестве с национальными агентствами безопасности, такими как NSA и DARPA, чтобы лучше понять и смягчить риски, связанные с суверенными ИИ-агентами.
Каков общий консенсус среди экспертов относительно угроз, представляемых суверенными ИИ-агентами?
Среди некоторых экспертов существует скептицизм относительно срочности угроз, представляемых суверенными ИИ-агентами, с опасениями, что выводы отчета могут основываться на гипотетических сценариях, а не на текущих реалиях.