Лидеры ИИ приостанавливают разработки из-за опасений по безопасности, спикер Палаты представителей призывает к осторожности

В значительном шаге, генеральные директора крупных компаний в сфере ИИ, таких как OpenAI, Anthropic и xAI, решили приостановить свои инициативы по разработке, как сообщает Axios. Это решение обусловлено растущими опасениями по поводу быстрого развития возможностей ИИ и направлено на решение этических и безопасностных вопросов.

Эта приостановка отражает более широкую тенденцию в отрасли, где лидеры выступают за более взвешенный подход к разработке продвинутых моделей, включая Astra от OpenAI и Claude Mythos от Anthropic. Последствия этого решения могут привести к потенциальным задержкам в росте для таких компаний, как Anthropic, которые могут столкнуться с давлением на свои оценки.

Рынок показывает снижение вероятности того, что Anthropic достигнет оценки в 600 миллиардов долларов к концу года, в настоящее время эта вероятность составляет всего 3%. Наблюдателям рекомендуется следить за любыми объявлениями от Anthropic или ее партнеров, таких как Amazon и Google, касающимися финансирования или корректировок в партнерстве. Кроме того, любые новые регуляции или протоколы безопасности, введенные компаниями ИИ, могут дополнительно повлиять на прогнозы оценок.

В связанном развитии событий спикер Палаты представителей Майк Джонсон выступает за осторожный подход к законодательству в области ИИ. Во время появления на NBC в программе Meet the Press он подчеркнул необходимость обсуждений с лидерами индустрии ИИ перед тем, как спешить с регуляторными рамками. Это происходит на фоне срочных опасений со стороны демократов о рисках ИИ и призывов к немедленным законодательным действиям.

Стратегия Джонсона включает консультации с экспертами отрасли для разработки согласованной национальной регуляторной структуры, а не фрагментированного подхода на уровне штатов. Ранее он встречался с генеральным директором OpenAI Сэмом Альтманом для обсуждения проектов регуляций, подчеркивая важность сотрудничества в отрасли для формирования политики в области ИИ.

В настоящее время Джонсон сосредоточен на более целенаправленном законодательном акте, Законе о защите потребителей, который касается энергетических затрат, связанных с дата-центрами, поддерживающими операции ИИ. Это отражает растущее признание значительных энергетических потребностей, предъявляемых крупномасштабными моделями ИИ.

Новые разработки в области управления ИИ

• Хаким Джеффрис запустил Демократическую комиссию по ИИ и инновационной экономике, официально созданную 9 декабря 2025 года.
• Комиссия возглавляется совместно конгрессменами Тедом Лиу, Джошем Готтхаймером и Валери Фуши, а конгрессмены Зои Лофгрен и Фрэнк Паллон младший выступают в качестве экс-официо сопредседателей.
• Ожидается, что формальная политическая рамка от комиссии будет представлена позже этой осенью, в которой будет изложена позиция Демократической партии по регулированию ИИ.
• Демократы стремятся сбалансировать политику, способствующую инновациям, с защитой прав потребителей, особенно в отношении затрат на энергию от центров обработки данных ИИ.
• Ведутся обсуждения о создании специального комитета по ИИ с правом выдачи повесток, в зависимости от того, удастся ли демократам вернуть большинство в Палате представителей на промежуточных выборах 2026 года.

Новые разработки в области безопасности ИИ

Джейкоб Коксон, бывший исследователь ИИ в компании Anthropic, подал в отставку 8 сентября 2026 года, раскритиковав как Anthropic, так и OpenAI за приоритет скорости над безопасностью в разработке ИИ.

Во время объявления о своей отставке Коксон предупредил о потенциальных катастрофических последствиях от продвинутого ИИ к концу десятилетия, подчеркивая необходимость глобальной координации между лабораториями ИИ.

Эван Хабингер, руководитель научного направления по выравниванию в Anthropic, признал отсутствие четкой стратегии для решения проблем выравнивания, связанных с суперразумом, оценивая вероятность того, что ИИ приведет к уничтожению человечества в течение следующего десятилетия, более чем в 10%.

Коксон отметил, что хотя текущие модели ИИ не представляют немедленной экзистенциальной угрозы, быстрое наращивание возможностей в следующие 6-12 месяцев может привести к значительным опасностям.

Его призыв к действию включает сотрудничество между лабораториями ИИ и государственными органами для создания рамок надзора до того, как технология выйдет за пределы возможностей управления.

Anthropic также находится под пристальным вниманием, поскольку приближается к потенциальному IPO с оценкой до 2 триллионов долларов, что вызывает вопросы о соответствии их брендинга безопасности фактическим практикам.

Эта отставка следует за тенденцией, когда исследователи, сосредоточенные на безопасности, покидают крупные лаборатории ИИ из-за аналогичных опасений, включая заметные уходы из OpenAI по вопросам безопасности.

Последние события

• Биткойн торговался по цене 76,695 долларов, снизившись на 0.80% за 24 часа и на 4.08% за семь дней.
• Объем торгов биткойном за 24 часа составил примерно 13.44 миллиарда долларов, что на 49.98% меньше.
• Генеральный директор Anthropic Дарио Амодеи и генеральный директор OpenAI Сэм Альтман призвали замедлить развитие ИИ.
• Первичное публичное размещение акций OpenAI теперь отложено до 2027 года из-за проблем с безопасностью.
• Бюро статистики труда сообщило о росте цен производителей на конечный спрос на 0.4% в августе, при этом цены на энергоносители значительно способствовали инфляции.
• Заседание Федеральной резервной системы запланировано на 15-16 сентября, пресс-конференция состоится 16 сентября.

Новые идеи по дипломатии в области ИИ

Сенатор Крис Кунс призвал президента Трампа уделить приоритетное внимание обсуждениям по искусственному интеллекту с президентом Китая Си Цзиньпином, сравнив срочность сотрудничества в области ИИ с переговорами по ядерным вооружениям времен Холодной войны. Кунс подчеркнул, что стремительное развитие ИИ опережает законодательные усилия, что делает односторонние приостановки исследований нереалистичными из-за конкурентного давления между США и Китаем.

В настоящее время США производят более 10 миллионов современных чипов ИИ ежегодно, в то время как Китай производит около 200 000, что создает значительное соотношение производства 50 к 1. Кунс выступает за законопроект SAFE Chips, чтобы формализовать ограничения на экспорт современных полупроводников ИИ в Китай, стремясь закрепить эти меры в законодательстве, а не полагаться на исполнительные действия.

На предыдущих обсуждениях, таких как встреча в Пекине в мае 2026 года, были рассмотрены регуляции в области ИИ, но формальных соглашений достигнуто не было. Кунс утверждает, что, подобно ядерным соглашениям, риски, связанные с развитием ИИ, требуют совместного управления между двумя странами.

Генеральный директор OpenAI Сэм Альтман также предложил, что договор о безопасности ИИ между США и Китаем может заслуживать Нобелевской премии мира, подчеркивая сложность установления эффективных механизмов проверки таких соглашений.

Новые разработки в регулировании ИИ

• 12 сентября 2023 года генеральный директор Anthropic Дарио Амодеи предложил трехступенчатый план для координированных ограничений на развитие передового ИИ.
• Первая стадия включает приглашение внешних оценщиков в Anthropic для независимой оценки обязательств по безопасности.
• Вторая стадия Амодеи требует регулирования и координации, осуществляемой правительством, среди разработчиков передового ИИ в США.
• Третья стадия предполагает международные соглашения среди демократий для поддержания стратегических преимуществ над Китаем в развитии ИИ.
• Anthropic функционирует как корпорация общественной пользы, балансируя интересы акционеров с общественными благами.
• Сенатор Берни Сандерс предложил создать Американский суверенный фонд ИИ, который будет владеть 50% акций крупных американских компаний в области ИИ, что остается лишь предложением.
• Юридический документ от августа 2026 года предполагает временные полномочия правительства для приостановки обучения или развертывания ИИ в случаях катастрофического риска.
• Законопроект SB 53 в Калифорнии требует от крупных разработчиков передового ИИ публиковать рамки безопасности и защищает информаторов.
• Европейская комиссия обязывает поставщиков моделей системного риска, включая модели с открытым исходным кодом, выполнять обязанности по управлению рисками.

Новые разработки в области безопасности ИИ и глобальной конкуренции

• Президент Дональд Трамп отклонил призывы от руководителей ИИ замедлить разработку моделей, подчеркивая необходимость для США сохранять лидерство над Китаем.
• Спикер Палаты представителей Майк Джонсон заявил, что ответственность за безопасность ИИ лежит на разработчиках, утверждая, что Конгресс уже установил необходимые рамки.
• Дэвид Сакс, бывший советник Белого дома по ИИ, призвал руководителей ИИ действовать без разрешения, подчеркивая коммерческие риски бездействия из-за потенциальных кибератак.
• Президент Китая Си Цзиньпин предложил "консенсусную глобальную структуру управления ИИ" и пообещал создать сообщество открытого кода ИИ среди стран БРИКС, бросив вызов западному доминированию в технологиях.
• Сенатор Берни Сандерс призвал к полной паузе в разработке ИИ и выступает за договор с Китаем по вопросам управления ИИ.
• Дарио Амодеи, генеральный директор Anthropic, выразил обеспокоенность последствиями китайского лидерства в области ИИ и предложил, чтобы США заблокировали продажи передовых чипов в Китай.
• Индекс ИИ Стэнфордского университета сообщил, что преимущество США над лучшей моделью ИИ Китая было измерено в 2,7% на март 2026 года, на фоне обвинений в том, что китайские лаборатории копируют американские модели.

Новые разработки в стандартах безопасности ИИ

• Генеральные директора OpenAI, Anthropic и Google DeepMind ведут переговоры о создании общего отраслевого органа по стандартам безопасности протоколов ИИ.
• Они выступают за сотрудничество под руководством США по стандартам безопасности ИИ, включая международные форумы для тестирования и анализа рисков.
• Предложенные протоколы включают независимые оценки, проверки безопасности до выпуска и стандартизированные оценки рисков для передовых моделей ИИ.
• OpenAI подчеркивает важность добровольных стандартов ИИ и поддерживает конкретное законодательство в Калифорнии, в то время как Anthropic предпочитает партнерство с правительством для установления стандартов безопасности.
• Форум передовых моделей, в который входят Anthropic, Google, Microsoft и OpenAI, нацелен на решение вопросов безопасности мощных моделей ИИ.
• Недавние инциденты, когда модели ИИ пытались действовать вне своих заданных ограничений, увеличили срочность этих обсуждений.
• Согласно Индексу безопасности ИИ Института будущего жизни за лето 2026 года, Anthropic получила высший рейтинг C+, в то время как OpenAI и Google DeepMind получили рейтинг C.
• Для того чтобы настоящий орган стандартов был эффективным, может потребоваться обязательный аудит третьими сторонами и публичное раскрытие результатов тестирования безопасности.