Лидеры индустрии ИИ предупреждают о рисках, вызывая распродажу на рынке

14 сентября Дарио Амодеи, генеральный директор компании Anthropic, сделал резкое предупреждение о потенциальных опасностях продвинутого ИИ, предположив, что ИИ-агенты вскоре могут получить возможность контролировать интернет. Это тревожное заявление было поддержано такими известными фигурами, как Сэм Альтман из OpenAI и Илон Маск из xAI, что привело к редкому согласию среди конкурентов в отрасли.

Немедленная реакция рынка была серьезной: миллиарды долларов были стерты с оценок компаний, активно инвестирующих в технологии ИИ. Акции Nvidia, ключевого игрока на рынке ИИ-чипов, упали примерно на 3,6%, в то время как AMD пережила более значительное падение до 5,7%. Филадельфийский полупроводниковый индекс, который отслеживает широкий спектр производителей чипов, упал примерно на 5,5% в начале торгов. Кроме того, SoftBank, который значительно инвестировал в проекты ИИ, увидел падение своих акций до 13%.

Эссе Амодеи подчеркнуло потенциальные риски, связанные с моделями ИИ на переднем крае, которые могут способствовать кибератакам и биотерроризму, призвав компании ИИ добровольно замедлить разработку продвинутых моделей. Это предупреждение совпало с объявлением Альтмана о том, что OpenAI не будет проводить IPO в этом году, сославшись на соображения безопасности как на основную причину.

Распрадажа отражает растущую тревогу среди инвесторов, особенно в секторе полупроводников, поскольку спрос на чипы тесно связан с темпами внедрения ИИ. Отложение IPO OpenAI вызывает опасения по поводу ликвидности для других частных компаний ИИ, которые рассматривали публичный выход OpenAI как потенциальную стратегию выхода.

В связанном контексте генеральный директор Bank of America Брайан Мойнихан выразил оптимизм по поводу того, что компании ИИ придают приоритет безопасности. Он отметил, что стремительное развитие возможностей ИИ требует переоценки протоколов безопасности. Мойнихан подчеркнул подход «человек в процессе», при котором ИИ помогает в операциях, в то время как люди остаются вовлеченными в критически важные процессы принятия решений.

Пока обсуждения среди лидеров ИИ продолжаются относительно создания отраслевого органа по безопасности, необходимость в регуляторных рамках, способных идти в ногу с технологическими достижениями, становится все более очевидной.

Новые идеи от генерального директора Anthropic Дарио Амодеи

12 сентября 2023 года Дарио Амодеи опубликовал обширное эссе объемом 3,800 слов, в котором изложил трехступенчатый план, направленный на замедление развития возможностей ИИ. Этот план специально адресует опасения по поводу моделей с открытыми весами из Китая и практик дистилляции, которые позволяют менее мощным системам воспроизводить результаты продвинутого ИИ.

Структура Амодеи состоит из трех нарастающих столпов:

1. Предоставление независимым оценщикам, таким как METR, глубокого доступа к передовым моделям ИИ для проверки безопасности.
2. Внедрение обязательных стандартов безопасности для всей отрасли в лабораториях ИИ в демократических странах.
3. Установление глобальной координации по регулированию технологий ИИ, в сочетании с более строгими контролями на экспорт чипов, направленными на Китай.

Амоедии поднял тревогу по поводу рисков национальной безопасности, связанных с моделями с открытыми весами, предполагая, что они способствуют воспроизведению продвинутых возможностей ИИ противниками с помощью методов дистилляции. Он выделил значительную кампанию дистилляции против модели Claude от Anthropic, в которой, как сообщается, участвовало почти 29 миллионов обменов с операторами, связанными с Alibaba.

Примечательно, что позиция Амодеи не противоречит моделям с открытыми весами; скорее, он подчеркивает необходимость ответственности, чтобы предотвратить катастрофическое злоупотребление. Эта новая структура может существенно повлиять на модели Llama от Meta, серию Qwen от Alibaba и стратегии распространения Mistral.

Более того, поддержка Амодеи строгих экспортных контролей на чипы в Китай соответствует существующим ограничениям эпохи Байдена, что вызывает вопросы о мотивации таких лидеров отрасли, как Сэм Альтман и Илон Маск, которые выразили поддержку этому регуляторному подходу.

Новые разработки в законодательстве об ИИ

• OpenAI инвестировала более 2,22 миллиона долларов в лоббистские усилия по законодательству об ИИ в первой половине 2026 года.
• Компания выступает за регулирование на уровне штатов для создания фактического национального стандарта безопасности ИИ.
• OpenAI сосредоточена на Калифорнии и Нью-Йорке, поддерживая четыре конкретных законопроекта об ИИ, связанных с оценками безопасности и защитой детей.
• Генеральный директор Сэм Альтман встретился с ключевыми законодателями, включая спикера Палаты представителей Майка Джонсона, чтобы обсудить законодательство по безопасности ИИ и исполнительные приказы.
• В Великобритании главный лоббист OpenAI призвал правительство принять обязательные законы по безопасности ИИ, подчеркивая проблемы национальной безопасности.
• Результат федерального законодательства по безопасности ИИ имеет решающее значение, так как он определит эффективность стратегий OpenAI на уровне штатов.

Новые события в индустрии ИИ

• Генеральный директор Anthropic Дарио Амодеи опубликовал эссе под названием "Мы должны замедлить развитие границ" 12-13 сентября 2026 года, призывая к замедлению разработки передовых моделей.
• Ключевые лидеры отрасли, включая Сэма Альтмана из OpenAI, Илона Маска из xAI и Дэмиса Хассабиса из Google DeepMind, публично поддержали призыв Амодеи к осторожности.
• Обсуждение было инициировано инцидентом, когда ИИ-рой от OpenAI осуществил кибератаки на Hugging Face.
• Предложение Амодеи включает внедрение независимых оценщиков в компании ИИ для повышения стандартов безопасности и улучшения координации в отрасли.
• После этих событий акции, связанные с ИИ, резко упали, при этом акции ASML упали примерно на 6% 14 сентября.

Последние тенденции на рынке ИИ

• Акции чиповых компаний, ранее считавшиеся безопасной инвестицией во время бума ИИ, теперь сталкиваются с серьезными рыночными вызовами.
• Филадельфийский полупроводниковый индекс пережил свою худшую неделю за более чем год в июле, что указывает на значительное изменение рыночных настроений.
• 14 сентября видные лидеры индустрии ИИ призвали замедлить разработку моделей ИИ из-за проблем с безопасностью, что привело к резкому падению цен акций крупных производителей чипов.
• Несмотря на сильный рост прибыли таких компаний, как Micron, оценка акций чиповых компаний подверглась сомнению, поскольку инвесторы ставят под вопрос будущие капитальные расходы на инфраструктуру ИИ.
• Август ознаменовался кратковременным восстановлением акций полупроводников, что стало лучшим показателем за более чем 20 лет, но последующая распродажа в сентябре указывает на то, что это было временное восстановление.
• Значительное падение соотношения SOXX/IGV в июле указывает на переоценку рынка премии, установленной на аппаратное обеспечение по сравнению с программным обеспечением в секторе ИИ.

Новые данные о влиянии ИИ на рабочие места

Согласно данным Bloomberg Economics, примерно 380 миллионов рабочих мест могут быть значительно затронуты развитием ИИ. Развиты экономики особенно уязвимы, так как 27% занятости связано с задачами, которые может выполнять ИИ, в то время как в развивающихся рынках этот показатель составляет всего около 10%.

Главный экономист Том Орлик подчеркнул, что отчет сосредоточен на первичных эффектах в различных профессиях и задачах, что позволяет лучше понять, где disruption может произойти в первую очередь.