Лидеры ИИ приостанавливают разработки из-за опасений по безопасности, спикер Палаты представителей призывает к осторожности
В значительном шаге, генеральные директора крупных компаний в сфере ИИ, таких как OpenAI, Anthropic и xAI, решили приостановить свои инициативы по разработке, как сообщает Axios. Это решение обусловлено растущими опасениями по поводу быстрого развития возможностей ИИ и направлено на решение этических и безопасностных вопросов.
Эта приостановка отражает более широкую тенденцию в отрасли, где лидеры выступают за более взвешенный подход к разработке продвинутых моделей, включая Astra от OpenAI и Claude Mythos от Anthropic. Последствия этого решения могут привести к потенциальным задержкам в росте для таких компаний, как Anthropic, которые могут столкнуться с давлением на свои оценки.
Рынок показывает снижение вероятности того, что Anthropic достигнет оценки в 600 миллиардов долларов к концу года, в настоящее время эта вероятность составляет всего 3%. Наблюдателям рекомендуется следить за любыми объявлениями от Anthropic или ее партнеров, таких как Amazon и Google, касающимися финансирования или корректировок в партнерстве. Кроме того, любые новые регуляции или протоколы безопасности, введенные компаниями ИИ, могут дополнительно повлиять на прогнозы оценок.
В связанном развитии событий спикер Палаты представителей Майк Джонсон выступает за осторожный подход к законодательству в области ИИ. Во время появления на NBC в программе Meet the Press он подчеркнул необходимость обсуждений с лидерами индустрии ИИ перед тем, как спешить с регуляторными рамками. Это происходит на фоне срочных опасений со стороны демократов о рисках ИИ и призывов к немедленным законодательным действиям.
Стратегия Джонсона включает консультации с экспертами отрасли для разработки согласованной национальной регуляторной структуры, а не фрагментированного подхода на уровне штатов. Ранее он встречался с генеральным директором OpenAI Сэмом Альтманом для обсуждения проектов регуляций, подчеркивая важность сотрудничества в отрасли для формирования политики в области ИИ.
В настоящее время Джонсон сосредоточен на более целенаправленном законодательном акте, Законе о защите потребителей, который касается энергетических затрат, связанных с дата-центрами, поддерживающими операции ИИ. Это отражает растущее признание значительных энергетических потребностей, предъявляемых крупномасштабными моделями ИИ.
Обновлено 15:00 UTC
Новые разработки в области управления ИИ
- Хаким Джеффрис запустил Демократическую комиссию по ИИ и инновационной экономике, официально созданную 9 декабря 2025 года.
- Комиссия возглавляется совместно конгрессменами Тедом Лиу, Джошем Готтхаймером и Валери Фуши, а конгрессмены Зои Лофгрен и Фрэнк Паллон младший выступают в качестве экс-официо сопредседателей.
- Ожидается, что формальная политическая рамка от комиссии будет представлена позже этой осенью, в которой будет изложена позиция Демократической партии по регулированию ИИ.
- Демократы стремятся сбалансировать политику, способствующую инновациям, с защитой прав потребителей, особенно в отношении затрат на энергию от центров обработки данных ИИ.
- Ведутся обсуждения о создании специального комитета по ИИ с правом выдачи повесток, в зависимости от того, удастся ли демократам вернуть большинство в Палате представителей на промежуточных выборах 2026 года.
Обновлено 15:01 UTC
Новые разработки в области безопасности ИИ
Джейкоб Коксон, бывший исследователь ИИ в компании Anthropic, подал в отставку 8 сентября 2026 года, раскритиковав как Anthropic, так и OpenAI за приоритет скорости над безопасностью в разработке ИИ.
Во время объявления о своей отставке Коксон предупредил о потенциальных катастрофических последствиях от продвинутого ИИ к концу десятилетия, подчеркивая необходимость глобальной координации между лабораториями ИИ.
Эван Хабингер, руководитель научного направления по выравниванию в Anthropic, признал отсутствие четкой стратегии для решения проблем выравнивания, связанных с суперразумом, оценивая вероятность того, что ИИ приведет к уничтожению человечества в течение следующего десятилетия, более чем в 10%.
Коксон отметил, что хотя текущие модели ИИ не представляют немедленной экзистенциальной угрозы, быстрое наращивание возможностей в следующие 6-12 месяцев может привести к значительным опасностям.
Его призыв к действию включает сотрудничество между лабораториями ИИ и государственными органами для создания рамок надзора до того, как технология выйдет за пределы возможностей управления.
Anthropic также находится под пристальным вниманием, поскольку приближается к потенциальному IPO с оценкой до 2 триллионов долларов, что вызывает вопросы о соответствии их брендинга безопасности фактическим практикам.
Эта отставка следует за тенденцией, когда исследователи, сосредоточенные на безопасности, покидают крупные лаборатории ИИ из-за аналогичных опасений, включая заметные уходы из OpenAI по вопросам безопасности.
FAQ
Почему крупные компании в области ИИ решили приостановить свои инициативы по разработке?
Генеральные директора крупных компаний в области ИИ, включая OpenAI и Anthropic, приостановили свои инициативы по разработке из-за растущих опасений по поводу быстрого развития возможностей ИИ и необходимости решения этических и безопасностных вопросов.
Каковы потенциальные последствия этой паузы в развитии ИИ?
Пауза может привести к задержкам в росте таких компаний, как Anthropic, что потенциально повлияет на их оценки. Например, рыночные индикаторы предполагают снижение вероятности того, что Anthropic достигнет оценки в 600 миллиардов долларов к концу года.
Какова позиция спикера Палаты представителей Майка Джонсона по законодательству в области ИИ?
Спикер Палаты представителей Майк Джонсон выступает за осторожный подход к законодательству в области ИИ, подчеркивая необходимость обсуждений с лидерами отрасли перед тем, как спешить с созданием регулирующих рамок.
На каком конкретном законодательстве сейчас сосредоточен Джонсон?
Джонсон в настоящее время сосредоточен на Законе о защите потребителей, который касается энергетических затрат, связанных с дата-центрами, поддерживающими операции ИИ, отражая значительные энергетические потребности крупномасштабных моделей ИИ.
Как лидеры отрасли и законодатели сотрудничают в области регулирования ИИ?
Лидеры отрасли и законодатели сотрудничают, консультируясь друг с другом для разработки согласованной национальной регулирующей структуры, а не фрагментированного подхода на уровне штатов, как это подчеркивается встречами Джонсона с руководителями ИИ.
Комментарии
Комментарии публикуются после модерации.
Пока нет комментариев — напишите первым.