Сатья Наделла выступает за меры безопасности в области ИИ и экстренные контрольные механизмы

Генеральный директор Microsoft Сатья Наделла призвал к усилению мер безопасности для систем искусственного интеллекта (ИИ), настаивая на том, что компании должны рассматривать модели ИИ аналогично внутренним угрозам. В своих комментариях 10 октября 2026 года Наделла предложил новую 'архитектуру доверия', которая включает функцию 'экстренного тормоза', позволяющую уполномоченным лицам приостанавливать операции ИИ в процессе выполнения задач.

Рекомендации Наделлы исходят из опасений по поводу автономных возможностей современных агентов ИИ, которые могут получать доступ к конфиденциальным данным и действовать с уровнем автономии, затрудняющим контроль. Он подчеркнул, что ни одна модель ИИ не должна выполнять одновременно функции исполнения действий и их проверки, так как это может привести к отсутствию ответственности.

Для обеспечения ответственного развертывания ИИ Наделла предложил внедрить независимые процессы верификации, поддерживать прозрачность в принятии решений ИИ и проводить внешние аудиты. Он предупредил, что отсутствие этих мер безопасности может поставить под угрозу легитимность операций компании.

Этот призыв к строгим контролям соответствует более широкому диалогу в отрасли о безопасности ИИ, который поддерживают и другие лидеры технологий, включая президента Microsoft Брэда Смита. По мере развития ландшафта ИИ внедрение этих принципов станет решающим для определения того, насколько серьезно отрасль относится к своим собственным проблемам безопасности.