Anthropic и Accenture инвестируют $2 миллиарда в партнерство по оценке ИИ

Компания Anthropic и консалтинговая фирма Accenture объявили о значительном партнерстве, направленном на улучшение оценки передовых моделей ИИ, обязавшись инвестировать по крайней мере $1 миллиард каждая в течение следующих пяти лет. Это сотрудничество позволит Accenture внедрить оценщиков в Anthropic, что обеспечит глубокий анализ практик безопасности ИИ.

Инициатива является частью более широкой стратегии Anthropic, направленной на предоставление независимым оценщикам постоянного доступа к своим моделям ИИ, в частности к семейству Claude. Предоставляя оценщикам доступ на уровне сотрудников, партнерство направлено на повышение прозрачности и подотчетности в разработке ИИ.

Под руководством Faculty, специализированного подразделения Accenture по ИИ, оценщики будут тесно сотрудничать с командами Anthropic для проведения оценок соответствия, тестирования моделей и проверки мер безопасности. Такой подход позволит оценщикам получить информацию, сопоставимую с данными сотрудников Anthropic, что даст им возможность наблюдать за процессами обучения и напрямую оценивать обязательства по безопасности.

Хотя рамки этого партнерства остаются экспериментальными, Anthropic ранее выступала за финансирование независимых оценок через объединенные или государственные механизмы. Однако для этого конкретного сотрудничества Anthropic будет напрямую финансировать усилия по оценке.

Кроме того, Anthropic ведет переговоры с некоммерческим оценщиком METR и планирует вскоре объявить о новых партнерах по оценке. Данное соглашение позволяет Accenture сотрудничать с другими разработчиками ИИ, подчеркивая, что ответственность за безопасность моделей остается за Anthropic.