Anthropic сталкивается с критикой, поскольку исследователи предупреждают о рисках ИИ и удерживают новую модель от тестировщиков в Великобритании

Компания Anthropic, лаборатория ИИ из Сан-Франциско, известная своей семьей моделей Claude, приняла решение удержать свою последнюю модель ИИ от тестировщиков в Великобритании. Этот шаг соответствует установленной практике компании ограничивать доступ к своим продвинутым системам для оценки безопасности, что отражает продолжающиеся опасения по поводу рисков кибербезопасности.

Ранее Anthropic сотрудничала с Институтом безопасности ИИ Великобритании и другими партнерами для контролируемого тестирования безопасности. Однако решение удержать модель указывает на осторожный подход Anthropic к выпуску передовых систем ИИ, что может потенциально повлиять на ее конкурентные позиции на быстро развивающемся рынке ИИ.

В дополнение к критике, Джейкоб Коксон, бывший исследователь Anthropic, публично предупредил, что лаборатории ИИ, включая Anthropic и OpenAI, стремятся к созданию самоулучшающегося суперинтеллекта, который, по его словам, может представлять значительный риск для человечества. Коксон, который ушел из Anthropic, выразил опасения, что траектория технологии недооценена, и что частные разговоры в отрасли резко контрастируют с публичными заявлениями.

Другой ключевой фигуре в Anthropic, Яну Лейке, также высказал свои опасения, предположив, что вероятность того, что ИИ может привести к вымиранию человечества в течение следующего десятилетия, превышает 10%. Эти заявления подчеркивают продолжающиеся дебаты вокруг опасностей продвинутых систем ИИ и поднимают вопросы о будущем Anthropic и ее оценке.

По мере развития ситуации наблюдатели внимательно следят за любыми официальными ответами от Anthropic и ее стратегических партнеров, а также за потенциальными изменениями в рыночной стоимости, связанными с оценкой компании.

Новые события в вопросах безопасности ИИ

Исследователь в области ИИ подал в отставку как из OpenAI, так и из Anthropic, выразив серьезные опасения по поводу стремительного стремления этих организаций к созданию самоулучшающегося суперинтеллекта. Исследователь обвинил их в том, что они ставят скорость выше безопасности, заявив, что они "играют с нашими жизнями". Эта отставка вызвала обсуждения в сообществе ИИ относительно баланса между технологическим прогрессом и мерами безопасности.

Рынок реагирует на это, указывая на снижение доверия к способности Anthropic сохранять свои позиции в производительности моделей ИИ. Текущие прогнозы предполагают умеренное снижение вероятности того, что Anthropic будет признан обладателем лучшей модели ИИ к концу сентября 2026 года.

Ключевые выводы включают заметный сдвиг в рыночных настроениях после отставки, при этом наблюдатели внимательно следят за любыми дальнейшими заявлениями руководства Anthropic и OpenAI по поводу этих вопросов безопасности.