Google, OpenAI и Anthropic стремятся создать организацию по стандартам безопасности ИИ к 2027 году

Google DeepMind, OpenAI и Anthropic ведут переговоры о создании независимой организации, возглавляемой отраслью, с целью установления стандартов безопасности ИИ. Эта инициатива, начавшаяся в июле 2026 года, направлена на разработку общих протоколов для оценки продвинутых моделей ИИ и проведения независимых оценок безопасности перед тем, как эти системы будут выпущены в общественное пользование.

Генеральный директор Anthropic Дарио Амодеи подчеркнул необходимость внешних оценщиков в области безопасности ИИ, утверждая, что стремительные темпы развития ИИ превышают возможности любой отдельной организации управлять последствиями для безопасности. Генеральный директор OpenAI Сэм Альтман поддержал эту точку зрения, отметив необходимость независимых стандартов на фоне медленного регулирования со стороны правительства.

Несмотря на свои намерения, три компании сталкиваются с трудностями, так как они получили оценки C+ или ниже в Индексе безопасности ИИ Института будущего жизни за 2026 год, который оценивает прозрачность и ответственные практики разработки. Их предыдущая совместная работа, Форум моделей Frontier, была направлена на продвижение исследований в области безопасности ИИ, но не имела той структуры, которая предлагается для нового органа стандартов.

На середину сентября 2026 года формальная организация еще не была создана, что вызывает опасения по поводу реализации этой инициативы. Меньшие компании в области ИИ должны понимать, что если крупные игроки добьются успеха в создании этих стандартов, затраты на соблюдение могут disproportionately повлиять на них, что потенциально приведет к дальнейшей консолидации в отрасли.

Новые разработки в области ИИ-рассуждений

• Торе Грепель, соавтор AlphaGo, покинул Google DeepMind, чтобы основать стартап, сосредоточенный на ИИ-рассуждениях.
• В настоящее время он привлекает начальное финансирование в десятках миллионов, при этом ожидается, что будущие раунды достигнут сотен миллионов.
• Грепель стремится научить машины мыслить над задачами, выходя за рамки простого увеличения размера языковых моделей.
• Его новое предприятие акцентирует внимание на структурированных методах поиска и вероятностном планировании, в отличие от традиционных подходов языковых моделей.
• Стартап Грепеля нацелен на устранение разрыва между беглостью языка и фактической компетентностью в решении задач.
• 2026 год стал заметным годом утечки талантов из DeepMind, включая Дэвида Силвера, еще одного архитектора AlphaGo, который основал Ineffable Intelligence.
• Тенденция изменений в руководстве DeepMind и бум стартапов в финансировании ИИ способствуют этой утечке мозгов.
• Вероятностное планирование, ключевой аспект подхода Грепеля, явно учитывает неопределенность в процессах принятия решений.