Регулирование
Отчет Microsoft о прозрачности ответственного ИИ 2026 года подчеркивает управление агентным ИИ
1 сентября 2026 года Microsoft представила свой третий ежегодный отчет о прозрачности ответственного ИИ, сосредоточив внимание на управлении и контроле за агентными ИИ-системами — теми, которые способны принимать автономные решения и выполнять сложные задачи без вмешательства человека.
В отчете выделены три ключевые области инвестиций за последний год: адаптивное управление и техническое управление рисками, практические инструменты для контроля ИИ и совместные практики с внешними партнерами. Microsoft переработала свой стандарт ответственного ИИ, перейдя от подхода, основанного на конкретных случаях использования, к структуре, сосредоточенной на технологическом стеке ИИ, который включает модели, платформенные услуги и приложения.
Пять тенденций стали причиной этой переработки: быстрое внедрение ИИ в бизнес, расширение генеративных и агентных возможностей, увеличенное использование разговорного ИИ, растущий потенциал злоупотреблений и быстро меняющийся регуляторный ландшафт. Примечательно, что Microsoft обучила почти 20 000 инженеров, законодателей и клиентов вопросам ответственного ИИ.
Для улучшения контроля за ИИ Microsoft представила агент по тестированию ИИ (AI Red Teaming Agent), который помогает выявлять уязвимости в ИИ-системах, и создала Альянс внешних команд тестирования с 18 университетами по всему миру. Кроме того, компания получила сертификаты ISO 42001 для нескольких продуктов, включая Microsoft 365 Copilot и GitHub Copilot, что свидетельствует о соответствии международным стандартам систем управления ИИ.
Фокус отчета на агентном ИИ отражает более широкую обеспокоенность в отрасли по поводу рисков, связанных с этими продвинутыми системами. В отличие от традиционных чат-ботов, агентный ИИ может предпринимать реальные действия, которые могут привести к значительным ошибкам, если они не соответствуют их целям. Обновленный стандарт ответственного ИИ от Microsoft нацелен на решение этих рисков на каждом уровне технологического стека.
Хотя в отчете не было никаких объявлений, способных повлиять на рынок, или новых запусков продуктов, Microsoft представила свои усилия как способ укрепления доверия, предоставляя корпоративным клиентам уверенность в своих ИИ-решениях.
FAQ
Какова основная тема Отчета о прозрачности ответственного ИИ Microsoft за 2026 год?
Отчет сосредоточен на управлении и надзоре за агентными ИИ-системами, которые способны к автономному принятию решений и выполнению сложных задач без вмешательства человека.
Какие ключевые области инвестиций выделены в отчете?
В отчете выделены три ключевые области инвестиций: адаптивное управление и техническое управление рисками, практические инструменты для надзора за ИИ и совместные практики с внешними партнерами.
Какие изменения были внесены в Стандарт ответственного ИИ Microsoft?
Microsoft переработала свой Стандарт ответственного ИИ, чтобы перейти от подхода, основанного на конкретных случаях использования, к структуре, сосредоточенной вокруг технологического стека ИИ, который включает модели, платформенные услуги и приложения.
Какие инициативы представила Microsoft для улучшения надзора за ИИ?
Microsoft представила Агент по тестированию ИИ на уязвимости, чтобы выявлять уязвимости в ИИ-системах, и создала Альянс внешних команд по тестированию с 18 университетами по всему миру.
Что означает сертификат ISO 42001 для продуктов Microsoft?
Сертификат ISO 42001 означает, что продукты Microsoft, включая Microsoft 365 Copilot и GitHub Copilot, соответствуют международным стандартам для систем управления ИИ.