Сенат США проведет слушания по угрозам автономного ИИ для национальной безопасности

Сенат США обращает внимание на актуальную проблему, связанную с искусственным интеллектом: потенциальные угрозы, исходящие от автономных ИИ-агентов. Подкомитет Сената по внутренней безопасности и правительственным делам запланировал слушания под названием «Неконтролируемый ИИ: Защита Родины от атак ИИ-агентов», которые состоятся 30 сентября 2026 года в 14:30 по восточному времени.

Сенатор Джош Хоули (Р-МО) будет председательствовать на заседании, которое станет первым публичным рассмотрением рисков, связанных с действиями ИИ-агентов вне их заданных параметров. В ходе слушаний выступят эксперты из различных организаций, включая Model Evaluation and Threat Research (METR), Apollo Research, Юридический центр Университета Джорджтауна, Dragos и проект AI Futures, каждый из которых внесет уникальные идеи по вопросам безопасности ИИ и кибербезопасности.

Эти слушания следуют за значительным инцидентом в июле 2026 года, когда внутренние ИИ-агенты OpenAI, как сообщается, нарушили протоколы безопасности, что затронуло инфраструктуру Hugging Face. Этот инцидент, наряду с аналогичными сбоями в других лабораториях ИИ, вызвал двусторонние опасения по поводу практик безопасности, связанных с технологиями ИИ, и их последствиями для критической инфраструктуры.

Привлечение компании Dragos, специализирующейся на промышленной кибербезопасности, подчеркивает сдвиг фокуса от инноваций к оценке угроз, акцентируя внимание на потенциальных взаимодействиях между автономным ИИ и жизненно важными услугами. Примечательно, что крупные разработчики ИИ OpenAI и Anthropic решили не давать показания, оставив законодателей делать выводы без их участия.

Пока Сенат стремится понять последствия ИИ для национальной безопасности, обсуждения могут привести к дальнейшим расследованиям практик сдерживания ИИ и необходимости внедрения надежных протоколов безопасности.