Регулирование
США и Китай обсуждают риски ИИ в военной сфере на конференции в Пекине
13-й Пекинский форум Сяншань собрал около 2000 делегатов из примерно 100 стран, где американские и китайские эксперты в области обороны нашли общий язык по вопросам рисков, связанных с искусственным интеллектом в военных контекстах. Центральной темой конференции стала растущая роль ИИ в военных операциях и потенциальная возможность алгоритмов принимать решения о жизни и смерти быстрее, чем это может сделать человек.
Одной из самых тревожных тем обсуждения стало то, как ИИ сокращает временные рамки принятия военных решений. Командиры, которые раньше имели часы или дни для оценки угроз, теперь могут располагать лишь минутами благодаря системам, основанным на ИИ. Эксперты Мелани Сиссон из Института Брукингса и Тяньцзяо Цзянь из Университета Фудань выступили за строгие меры регулирования, включая обязательный человеческий контроль для военных систем ИИ, участвующих в критических решениях.
Форум также подчеркнул дестабилизирующее воздействие дезинформации, генерируемой ИИ, на международное сотрудничество в области безопасности. Министр государственной безопасности Китая Чэнь Исинь отметил, что ИИ трансформирует военную конкуренцию и представляет собой значительную угрозу для политической стабильности.
Обе стороны согласились с необходимостью человеческого контроля в ядерных решениях, подтвердив соглашение 2024 года, которое требует участия человека в командовании и контроле ядерного оружия. Предложения на форуме включали создание специальных горячих линий для управления инцидентами, связанными с военным ИИ, и разработку международных норм, чтобы предотвратить полную делегацию критических военных функций ИИ.
Эта конференция прошла всего за несколько дней до запланированного саммита между президентом США Дональдом Трампом и президентом Китая Си Цзиньпином, где также планировались двусторонние обсуждения по вопросам ИИ.
FAQ
Какова была основная тема 13-го Пекинского форума Сяншань?
Основная тема форума заключалась в растущей роли искусственного интеллекта (ИИ) в военных операциях и связанных с этим рисках, особенно в отношении способности ИИ принимать решения о жизни и смерти быстрее, чем вмешательство человека.
Какие опасения были высказаны по поводу ИИ в военных контекстах во время конференции?
Опасения включали сокращение сроков принятия военных решений из-за систем, поддерживаемых ИИ, что может уменьшить время, доступное командирам для оценки угроз, с часов или дней до всего лишь минут.
Что эксперты рекомендовали в отношении военных систем ИИ?
Эксперты выступили за строгие регуляции, включая обязательный человеческий контроль для военных систем ИИ, участвующих в критических решениях, чтобы обеспечить безопасность и подотчетность.
Что было подчеркнуто в отношении человеческого контроля в ядерных решениях?
Как американские, так и китайские эксперты в области обороны согласились с необходимостью человеческого контроля в ядерных решениях, подтвердив соглашение 2024 года, которое требует участия человека в ядерном командовании и контроле.
Какие предложения были обсуждены для управления инцидентами, связанными с ИИ в военной сфере?
Предложения включали создание специализированных горячих линий для управления инцидентами, связанными с ИИ в военной сфере, и создание международных норм для предотвращения полной делегации критических военных функций ИИ.