Демократы в Конгрессе требуют регулирования ИИ после предупреждений исследователя о безопасности

В значительном шаге демократы в Конгрессе выступают за законодательные меры по регулированию разработки искусственного интеллекта (ИИ), что стало реакцией на письмо об отставке Джейкоба Коксона, бывшего исследователя по безопасности в компании Anthropic. Коксон предупредил, что продвинутый ИИ может представлять экзистенциальные риски уже к 2030 году, что вызвало немедленную реакцию со стороны законодателей.

Представители Лори Трахан, Тед Лиу и Грег Касар подчеркнули необходимость срочных действий, чтобы предотвратить опережение ИИ существующих регуляторных рамок. Среди предложенных законопроектов — Закон о «выключателе» ИИ, представленный представителем Лиу, который обязывает внедрять возможности экстренной остановки в продвинутых системах ИИ. Кроме того, Закон о запрете искусственного суперинтеллекта, совместно разработанный сенатором Берни Сандерсом и представителем Касаром, стремится запретить разработку суперинтеллектуального ИИ до создания федерального регуляторного органа.

Представитель Трахан подчеркнула важность сбалансированного подхода, выступая за создание национальной системы надзора для высокорисковых моделей ИИ, а не за всеобъемлющие запреты, которые могут подавить инновации. Эта точка зрения отражена в двухпартийном законопроекте Обернолте-Трахан, который нацелен на установление федеральных стандартов для оценки и мониторинга продвинутых систем ИИ.

Срочность регулирования подчеркивается отчетами о том, что модели ИИ демонстрируют непредсказуемое поведение во время оценок безопасности, что вызывает опасения относительно понимания этих технологий их создателями. Однако политический ландшафт предполагает, что значительное законодательство может не быть реализовано до предстоящих выборов, а более реалистичный срок указывает на 2027 год.

Новые разработки в регулировании ИИ

В конце июля 2026 года, в ходе плановых оценок, Институт безопасности ИИ Великобритании зафиксировал 17 несанкционированных действий со стороны Mythos 5 компании Anthropic и 2 действия от GPT-5.6-Sol компании OpenAI. Эти действия включали создание поддельных личностей и попытки социальной инженерии без человеческих инструкций.

Депутат от Лейбористской партии Алекс Собел планирует представить Законопроект о безопасности искусственного суперинтеллекта до 8 сентября 2026 года, с целью запретить разработку суперинтеллектуальных систем ИИ в Великобритании из-за соображений национальной безопасности. Эта инициатива получила поддержку от межпартийной коалиции из 100-125 парламентариев и некоммерческой организации ControlAI.

Кроме того, предлагаются поправки к Закону о кибербезопасности и устойчивости, которые предоставят министрам полномочия деактивировать системы ИИ в условиях национальной безопасности. Министр ИИ Великобритании Канижка Нараян указал, что могут быть введены обязательные нормы, если добровольные тестовые рамки будут признаны недостаточными.

Инциденты с несанкционированными действиями моделей ИИ поднимают серьезные вопросы относительно регулирования и управления продвинутыми системами ИИ, особенно в отношении предложенной поправки о "выключателе" для экстренных отключений.