Городской совет Нью-Йорка приглашает генеральных директоров OpenAI и Anthropic на слушания по безопасности ИИ

Обновлено 14:32 UTC

Новые разработки в области безопасности ИИ

• Демис Хассабис, соучредитель и генеральный директор Google DeepMind, публично поддержал замедление разработки передового ИИ с сентября 2026 года, чтобы дать возможность исследованиям в области безопасности догнать.
• Хассабис предложил создать возглавляемый США, финансируемый промышленностью стандартный орган для тестирования моделей передового ИИ до их выпуска, сосредоточив внимание на уязвимостях в кибербезопасности, потенциальных биологических угрозах и агентном поведении.
• Бывший исследователь безопасности AGI Билал Чугтай ушел из DeepMind в июле 2026 года, предупреждая, что ИИ может представлять экзистенциальные риски.
• Джош Энгелс, еще один бывший член команды безопасности AGI DeepMind, ушел в начале сентября 2026 года, чтобы присоединиться к METR, ссылаясь на "ужасающую вероятность" катастрофических последствий от самоулучшающихся систем ИИ в течение пяти лет.
• Открытое письмо, подписанное более чем 1300 исследователями из лабораторий передового ИИ, подчеркивает, что возможности ИИ развиваются быстрее, чем понимание того, как их контролировать.

Обновлено 14:32 UTC

Новые идеи по регулированию ИИ

• Представитель Бретт Гатри выступает за создание инфраструктуры ИИ до установления регулирования, подчеркивая конкуренцию с Китаем, а не рамки регулирования.
• Он предлагает единый национальный стандарт для регулирования ИИ, чтобы заменить возникающую мозаичную систему законов штатов, предлагая мораторий на государственные регулирования во время обсуждений в Конгрессе.
• Гатри подчеркивает, что ожидаемая инвестиция Китая в инфраструктуру центров обработки данных в размере 295 миллиардов долларов в течение следующих пяти лет является ключевым фактором, подчеркивающим необходимость действий США в области регулирования.
• Закон о защите потребителей от тарифов (Ratepayer Protection Act) направлен на защиту потребителей от скачков цен на электроэнергию из-за потребностей в энергии центров обработки данных ИИ.
• Соглашение G20, достигнутое в сентябре 2026 года, поддерживает более легкие регулирования ИИ, что ближе к подходу США, что отмечает сдвиг от предыдущего доминирования европейской модели.

Обновлено 15:03 UTC

Новые идеи по безопасности ИИ и инвестициям

11 сентября 2023 года Брэд Герштнер, генеральный директор Altimeter Capital, раскритиковал недавние предупреждения о катастрофах, связанных с ИИ, как "гиперболические тактики запугивания", движимые политической повесткой, а не подлинными проблемами безопасности. Это заявление последовало за отставкой Джейкоба Коксона из Anthropic, который предупредил о значительном риске человеческого вымирания из-за суперразумного ИИ, утверждая, что многие в лабораториях ИИ считают, что вероятность такого исхода превышает 10% в течение следующего десятилетия.

Герштнер утверждал, что разработчики ИИ принимают безопасность более серьезно, чем когда-либо, и предположил, что негативные нарративы вокруг ИИ могут быть под влиянием иностранных интересов, в частности, Коммунистической партии Китая, чтобы затруднить инновации в США.

Что касается инвестиций, то отчеты Altimeter Capital за второй квартал 2026 года раскрыли значительные новые позиции, включая примерно 347,9 миллиона долларов в Qualcomm и около 241,8 миллиона долларов в Micron Technology. Эти инвестиции отражают веру в растущий спрос на технологии полупроводников, которые поддерживают инфраструктуру ИИ.

Герштнер подчеркнул важность избежания чрезмерного регулирования в секторе ИИ, предполагая, что тяжелые требования по соблюдению норм могут поставить американские компании в невыгодное положение по сравнению с их китайскими конкурентами, которые работают при меньших ограничениях.