Компании
Сатья Наделла выступает за меры безопасности в области ИИ и экстренные контрольные механизмы
Генеральный директор Microsoft Сатья Наделла призвал к усилению мер безопасности для систем искусственного интеллекта (ИИ), настаивая на том, что компании должны рассматривать модели ИИ аналогично внутренним угрозам. В своих комментариях 10 октября 2026 года Наделла предложил новую 'архитектуру доверия', которая включает функцию 'экстренного тормоза', позволяющую уполномоченным лицам приостанавливать операции ИИ в процессе выполнения задач.
Рекомендации Наделлы исходят из опасений по поводу автономных возможностей современных агентов ИИ, которые могут получать доступ к конфиденциальным данным и действовать с уровнем автономии, затрудняющим контроль. Он подчеркнул, что ни одна модель ИИ не должна выполнять одновременно функции исполнения действий и их проверки, так как это может привести к отсутствию ответственности.
Для обеспечения ответственного развертывания ИИ Наделла предложил внедрить независимые процессы верификации, поддерживать прозрачность в принятии решений ИИ и проводить внешние аудиты. Он предупредил, что отсутствие этих мер безопасности может поставить под угрозу легитимность операций компании.
Этот призыв к строгим контролям соответствует более широкому диалогу в отрасли о безопасности ИИ, который поддерживают и другие лидеры технологий, включая президента Microsoft Брэда Смита. По мере развития ландшафта ИИ внедрение этих принципов станет решающим для определения того, насколько серьезно отрасль относится к своим собственным проблемам безопасности.
FAQ
Какие меры безопасности предложил Сатья Наделла для систем ИИ?
Сатья Наделла предложил усиленные меры безопасности для систем ИИ, включая новую 'архитектуру доверия' с функцией 'аварийного тормоза', которая позволяет уполномоченным лицам остановить операции ИИ в процессе выполнения задачи.
Почему Наделла сравнивает модели ИИ с внутренними угрозами?
Наделла сравнивает модели ИИ с внутренними угрозами из-за их автономных возможностей, которые могут получать доступ к конфиденциальным данным и действовать независимо, что усложняет контроль и подотчетность.
Каково значение независимых процессов верификации при развертывании ИИ?
Независимые процессы верификации имеют важное значение, так как они обеспечивают отсутствие у одной модели ИИ двойной роли выполнения действий и их проверки, тем самым повышая подотчетность и прозрачность в принятии решений ИИ.
Что может произойти, если компании не установят меры безопасности для ИИ?
Неустановление мер безопасности для ИИ может поставить под угрозу легитимность операций компании и увеличить риски, связанные с развертыванием ИИ.
Как призыв Наделлы к безопасности ИИ соотносится с отраслевым диалогом?
Призыв Наделлы к безопасности ИИ соответствует более широкому отраслевому диалогу о безопасности ИИ, поддерживаемому другими лидерами технологий, такими как президент Microsoft Брэд Смит, подчеркивающим необходимость ответственного развертывания ИИ по мере изменения ситуации.