Министр безопасности Китая предупреждает о угрозах, связанных с развитием ИИ для национальной стабильности

В недавней статье, опубликованной в журнале China Cyberspace, министр государственной безопасности Китая Чэнь Исинь поднял тревогу по поводу потенциальных угроз, связанных с развитием искусственного интеллекта (ИИ). Его предупреждения выходят за рамки обычных регуляторных вопросов и подчеркивают, что ИИ может поставить под угрозу национальную стабильность, критическую инфраструктуру и идеологический контроль.

Чэнь выделяет две основные проблемы: риск того, что "враждебные силы" используют ИИ для распространения дезинформации и дестабилизирующих нарративов внутри Китая, а также снижение барьеров для осуществления кибератак на жизненно важные информационные системы благодаря моделям ИИ следующего поколения. Он конкретно упомянул технологии ИИ западных компаний, включая Claude Mythos от Anthropic и GPT-5.5-Cyber от OpenAI, как потенциальные инструменты для наступательных киберопераций.

В свете этих угроз Чэнь призвал к усилению внутренних мер безопасности и активному участию в международном управлении ИИ. Его замечания совпадают с недавней инициативой президента Си Цзиньпина по глобальному сотрудничеству в области индустриализации на основе ИИ и координации цепочек поставок среди развивающихся экономик, позиционируя Китай как ответственного лидера в управлении ИИ, одновременно противодействуя ограничениям на передачу технологий со стороны США.

Для инвесторов в технологическом секторе Китая заявления Чэня имеют значительные регуляторные последствия. Выявление конкретных возможностей ИИ как угроз национальной безопасности часто предшествует изменениям в политике. Компании в области ИИ должны готовиться к повышенному вниманию к вопросам безопасности данных и соблюдения государственных регуляций. Хотя более строгая регуляторная среда может замедлить внедрение ИИ, компании, которые соответствуют видению правительства о "безопасном и контролируемом" ИИ, могут получить преимущества в виде приоритетного доступа к рынку и государственных контрактов.

Новые разработки в финансировании и стратегии ИИ

• В Европе в настоящее время контролируется примерно 5% мировых мощностей центров обработки данных ИИ, в то время как в США - около 75%, а в Китае - 15%.
• 14 сентября был опубликован отчет под названием "Трансформирующая стратегия ИИ для Европы", соавтором которого является Маргрете Вестагер, целью которого является устранение разрыва в финансировании ИИ.
• Стратегия предлагает €100 миллиардов государственных инвестиций и цель в €1,5 триллиона частного капитала, чтобы утроить долю вычислительных мощностей Европы до 15% к 2030 году.
• В 2024 году частные инвестиции в ИИ в США достигли $109 миллиардов, в то время как в Европе составили всего $19,42 миллиарда, что подчеркивает значительное различие в финансировании.
• Европейская комиссия инициировала тендер на строительство семи гигафабрик ИИ, каждая из которых должна разместить не менее 100 000 современных чипов ИИ, поддерживаемых €10 миллиардами государственных средств.
• Предложенный "Союз государств-членов для безопасности цепочки поставок" нацелен на использование европейских сильных сторон, особенно в производстве полупроводников, что иллюстрируется доминированием технологий ASML.

Новые разработки в регулировании ИИ в Китае

• Коммунистическая партия Китая представила нормативную базу, требующую от моделей ИИ проходить тесты на идеологическую соответствие.
• Контент, сгенерированный ИИ, должен быть явно помечен, требование, действующее с сентября 2025 года.
• С апреля по сентябрь 2026 года было удалено более 5,61 миллиона единиц контента, сгенерированного ИИ, за незаконность или несоответствие.
• Более 49 000 аккаунтов были подвергнуты санкциям, а меры были приняты против более 2 400 веб-сайтов и приложений в тот же период.
• 14 сентября 2026 года была представлена Рамочная программа управления безопасностью искусственного интеллекта 3.0, подчеркивающая необходимость предотвращения рисков для социальной и политической стабильности.
• Китайские модели ИИ должны отклонять как минимум 95% из 2000 чувствительных запросов, связанных с подрывной деятельностью и дискриминацией, перед публичным запуском.
• Новые правила, вступающие в силу в июле 2026 года, требуют человеческого контроля за антропоморфными ИИ-сервисами, особенно в отношении несовершеннолетних.
• Си Цзиньпин классифицировал достижения в области ИИ как потенциальную угрозу национальной безопасности, сопоставимую с природными катастрофами.

Новые идеи от министра финансов США Скотта Бессента о развитии ИИ

• 8 сентября 2023 года Скотт Бессент подчеркнул, что приостановка разработки ИИ даст Китаю значительное преимущество, рассматривая доминирование в ИИ как критическую проблему национальной безопасности.
• Бессент предупредил, что если Китай превзойдет США в возможностях ИИ, это может сделать военную инфраструктуру Америки устаревшей.
• Он прогнозировал, что к 2028 году США смогут контролировать 80% глобальной вычислительной мощности ИИ, увеличившись с примерно 60% в 2025 году, что связано с достижениями в индустрии чипов и доступом к частному капиталу.
• Бессент раскритиковал сектор ИИ за неэффективное донесение своих преимуществ до общественности, что способствовало росту оппозиции против проектов инфраструктуры ИИ.
• Его замечания указывают на сильную поддержку правительства для сектора ИИ, предполагая, что компании с надежными мерами безопасности могут получить приоритетный доступ к контрактам из-за последствий для национальной безопасности, связанных с развитием ИИ.

Новые данные о рисках ИИ от министра безопасности Китая

13 сентября 2023 года Министерство государственной безопасности Китая (МГБ) выпустило значительное предупреждение о потенциальных угрозах, которые технологии искусственного интеллекта (ИИ) могут представлять для политической стабильности страны. Это заявление, написанное министром МГБ Чэнь Исином, является самым подробным публичным признанием рисков ИИ со стороны агентства на сегодняшний день.

Чэнь выделил три основные области беспокойства: дезинформация, кибератаки и технологическая зависимость. Он подчеркнул, что враждебные силы могут использовать инструменты генеративного ИИ для манипуляции общественным мнением и подрыва политической целостности Китая. Кроме того, он отметил, что распространение ИИ облегчило злонамеренным актерам проведение сложных киберопераций, конкретно упомянув разработанные в США модели ИИ, такие как Claude Mythos от Anthropic и GPT-5.5-Cyber от OpenAI, как потенциальные угрозы для критической инфраструктуры Китая.

Кроме того, Чэнь подчеркнул важность сохранения технологического суверенитета, особенно в отношении передовых чипов, и выразил обеспокоенность по поводу утечек данных из систем ИИ, разработанных иностранными компаниями. Важно отметить, что сообщение МГБ не заключалось в том, чтобы замедлить развитие ИИ, а в том, чтобы выступить за больший контроль над технологией и установление глобальных регуляций.

Это предупреждение совпадает с продолжающимися обсуждениями как в Вашингтоне, так и в Пекине относительно регулирования ИИ, подчеркивая общую тревогу по поводу последствий технологий ИИ.