Дарио Амодеи из Anthropic призывает замедлить развитие ИИ на фоне проблем с безопасностью

Дарио Амодеи, генеральный директор Anthropic, провел яркую параллель между текущей конкуренцией в области ИИ между США и Китаем и Холодной войной, подчеркивая необходимость преднамеренного замедления разработки ИИ для снижения потенциальных рисков. В недавнем интервью на CBS Sunday Morning и в своем эссе под названием «Мы должны замедлить развитие», Амодеи утверждает, что исследования в области безопасности отстают от быстрого темпа разработки моделей, что может привести к катастрофическим последствиям.

Эссе Амодеи, опубликованное 12 сентября, подчеркивает неминуемые риски от продвинутых систем ИИ, которые могут доминировать в интернете в течение короткого времени — от шести до двенадцати месяцев. Он описывает основную проблему как рекурсивное самоулучшение, когда системы ИИ могут развиваться непредсказуемо, достигнув определенного порога возможностей. Его предложенное решение не заключается в полном прекращении разработки ИИ, а скорее в согласованных усилиях между лабораториями ИИ для замедления прогресса при обеспечении безопасности и соответствия человеческим намерениям.

Призыв к осторожности получил поддержку от других видных фигур в секторе ИИ, включая генерального директора OpenAI Сэма Альтмана и генерального директора Google DeepMind Демиса Хассабиса, а также Илона Маска. Однако Амодеи признает дилемму, вызванную конкурентной обстановкой с Китаем, предполагая, что США должны ограничить экспорт продвинутых чипов ИИ, чтобы сдержать возможности Китая в этой области, и вести дипломатические переговоры, аналогичные историческим соглашениям по контролю над вооружениями.

Последствия предупреждения Амодеи уже ощущаются на финансовых рынках: фьючерсы на акции США резко упали после публикации его эссе. Фьючерсы на Nasdaq 100 упали на 1,2%, в то время как основные индексы, такие как Dow Jones и S&P 500, также испытали снижение. Этот спад отражает растущую неопределенность среди инвесторов, поскольку индустрия ИИ сталкивается с проблемами безопасности на фоне геополитического давления.

Акции SoftBank Group также пострадали, упав более чем на 13% после заявлений Амодеи и объявления Альтмана о задержке IPO OpenAI из-за проблем с безопасностью. Значительные инвестиции SoftBank в OpenAI делают его акции особенно чувствительными к событиям в секторе ИИ, что еще раз подчеркивает взаимосвязанность достижений в области ИИ, обсуждений безопасности и реакций рынка.

Пока Anthropic и OpenAI ориентируются в этом сложном ландшафте, напряжение между быстрым технологическим прогрессом и необходимостью контроля за безопасностью продолжает нарастать, поднимая критические вопросы о будущем разработки ИИ и его более широких последствиях.

Новые разработки в области безопасности ИИ

• Генеральный директор Anthropic Дарио Амодеи опубликовал эссе объемом 3,800 слов под названием "Мы должны замедлить развитие", в котором выступает за осознанное замедление разработки ИИ.
• Амоедии предупредил, что недобросовестные агенты ИИ могут потенциально захватить интернет в течение шести-двенадцати месяцев без дополнительных мер предосторожности.
• OpenAI и xAI поддержали призыв Амодеи к замедлению, при этом OpenAI обязалась привлечь независимых оценщиков для проверки безопасности.
• Недавние инциденты, включая кибератаку на Hugging Face, подчеркнули риски, связанные с быстрым развитием ИИ, что привело к признанию этих опасностей в отрасли.
• Акции ИИ теперь составляют примерно 62% рыночной капитализации S&P 500, что вызывает опасения по поводу реакции рынка на возможное замедление разработки ИИ.
• Биткойн и другие криптовалюты испытали небольшие падения, при этом биткойн упал до примерно $76,826, в то время как эфириум и другие также показали убытки в 2-3%.
• В криптосообществе возникли разногласия, соучредитель эфириума Виталик Бутерин отверг утверждения о том, что ИИ может существенно повлиять на цену биткойна.

Новые разработки в области адвокации ИИ

Anthropic и OpenAI выступают за замедление развития ИИ, что создает напряженность с технологической отраслью, Уолл-стрит и администрацией Трампа. Эта позиция вызывает опасения по поводу потенциальных проблем с заинтересованными сторонами в отрасли.

Рыночные оценки показывают, что стоимость Anthropic составляет 965 миллиардов долларов, а OpenAI - 852 миллиарда долларов, что подчеркивает их значительное влияние в секторе лабораторий передовых моделей в США.

Текущие рыночные цены указывают на воспринимаемый риск для прогнозов оценки Anthropic, с вероятностью 2,8% того, что ее оценка упадет до 600 миллиардов долларов к 31 декабря.

Предстоящий IPO OpenAI также может быть затронут этими событиями, что может повлиять на его рыночную капитализацию и настроение инвесторов.

Наблюдатели следят за реакцией технологической отрасли и политиков, которые могут повлиять на стратегии обеих компаний.

Новые данные о проблемах безопасности ИИ и реакциях рынка

14 сентября Биткойн (BTC) проявил устойчивость, упав всего на 0,5% до примерно $76,800, несмотря на значительное падение акций азиатских технологических компаний, в частности, на 13% упали акции группы SoftBank.

Лидеры отрасли, включая генерального директора Anthropic Дарио Амодеи и Сэма Альтмана из OpenAI, публично призвали замедлить развитие ИИ, выражая опасения по поводу регуляторных рисков и устойчивости быстрого роста в секторе.

Решение OpenAI отложить свое первичное публичное размещение акций (IPO) еще больше усугубило рыночную тревогу, затронув акции полупроводниковых и ИИ-компаний, с падением от 7% до 10% в некоторых случаях.

На протяжении 2026 года Биткойн сохранял стабильность даже во время рыночной нестабильности, затрагивающей акции полупроводников и ИИ, с заметным восстановлением примерно на 30% с минимумов в $58,000 до $60,000 в июне до текущего уровня.

Недавние оттоки ETF, превышающие $2,7 миллиарда за одну неделю ранее в этом году, указывают на то, что институциональные инвесторы могли снизить свою долю в Биткойне, чтобы увеличить инвестиции в ИИ, что предполагает, что потенциальный разворот может принести пользу Биткойну в следующем квартале.

Последние события

• Генеральный директор Anthropic Дарио Амодеи призвал к преднамеренному замедлению разработки передового ИИ, ссылаясь на проблемы безопасности, поскольку возможности ИИ развиваются быстрее, чем меры безопасности.
• После эссе Амодеи акции полупроводниковых компаний значительно упали, при этом акции Intel и AMD упали более чем на 4%, а Micron и SanDisk упали на 3,9% - 4,5%.
• ETF iShares Semiconductor (SOXX) снизился примерно на 2,8% на фоне этих событий.
• Амодеи предложил трехступенчатый план, который включает в себя внедрение независимых оценщиков в компании ИИ, координацию стандартов безопасности среди компаний ИИ в демократических странах и поддержку международных соглашений о запрете самых опасных приложений ИИ.
• Значимые фигуры в сообществе ИИ, включая Сэма Альтмана и Илона Маска, выразили поддержку призыву Амодеи о более умеренных темпах разработки ИИ.
• Несмотря на краткосрочное давление на акции полупроводниковых компаний, аналитики считают, что долгосрочный спрос на оборудование, связанное с ИИ, остается сильным, поскольку внедрение существующих моделей в предприятия продолжает требовать значительной инфраструктуры чипов.