Anthropic сталкивается с критикой, поскольку исследователи предупреждают о рисках ИИ и удерживают новую модель от тестировщиков в Великобритании

Компания Anthropic, лаборатория ИИ из Сан-Франциско, известная своей семьей моделей Claude, приняла решение удержать свою последнюю модель ИИ от тестировщиков в Великобритании. Этот шаг соответствует установленной практике компании ограничивать доступ к своим продвинутым системам для оценки безопасности, что отражает продолжающиеся опасения по поводу рисков кибербезопасности.

Ранее Anthropic сотрудничала с Институтом безопасности ИИ Великобритании и другими партнерами для контролируемого тестирования безопасности. Однако решение удержать модель указывает на осторожный подход Anthropic к выпуску передовых систем ИИ, что может потенциально повлиять на ее конкурентные позиции на быстро развивающемся рынке ИИ.

В дополнение к критике, Джейкоб Коксон, бывший исследователь Anthropic, публично предупредил, что лаборатории ИИ, включая Anthropic и OpenAI, стремятся к созданию самоулучшающегося суперинтеллекта, который, по его словам, может представлять значительный риск для человечества. Коксон, который ушел из Anthropic, выразил опасения, что траектория технологии недооценена, и что частные разговоры в отрасли резко контрастируют с публичными заявлениями.

Другой ключевой фигуре в Anthropic, Яну Лейке, также высказал свои опасения, предположив, что вероятность того, что ИИ может привести к вымиранию человечества в течение следующего десятилетия, превышает 10%. Эти заявления подчеркивают продолжающиеся дебаты вокруг опасностей продвинутых систем ИИ и поднимают вопросы о будущем Anthropic и ее оценке.

По мере развития ситуации наблюдатели внимательно следят за любыми официальными ответами от Anthropic и ее стратегических партнеров, а также за потенциальными изменениями в рыночной стоимости, связанными с оценкой компании.