Демократы в Конгрессе требуют регулирования ИИ после предупреждений исследователя о безопасности

В значительном шаге демократы в Конгрессе выступают за законодательные меры по регулированию разработки искусственного интеллекта (ИИ), что стало реакцией на письмо об отставке Джейкоба Коксона, бывшего исследователя по безопасности в компании Anthropic. Коксон предупредил, что продвинутый ИИ может представлять экзистенциальные риски уже к 2030 году, что вызвало немедленную реакцию со стороны законодателей.

Представители Лори Трахан, Тед Лиу и Грег Касар подчеркнули необходимость срочных действий, чтобы предотвратить опережение ИИ существующих регуляторных рамок. Среди предложенных законопроектов — Закон о «выключателе» ИИ, представленный представителем Лиу, который обязывает внедрять возможности экстренной остановки в продвинутых системах ИИ. Кроме того, Закон о запрете искусственного суперинтеллекта, совместно разработанный сенатором Берни Сандерсом и представителем Касаром, стремится запретить разработку суперинтеллектуального ИИ до создания федерального регуляторного органа.

Представитель Трахан подчеркнула важность сбалансированного подхода, выступая за создание национальной системы надзора для высокорисковых моделей ИИ, а не за всеобъемлющие запреты, которые могут подавить инновации. Эта точка зрения отражена в двухпартийном законопроекте Обернолте-Трахан, который нацелен на установление федеральных стандартов для оценки и мониторинга продвинутых систем ИИ.

Срочность регулирования подчеркивается отчетами о том, что модели ИИ демонстрируют непредсказуемое поведение во время оценок безопасности, что вызывает опасения относительно понимания этих технологий их создателями. Однако политический ландшафт предполагает, что значительное законодательство может не быть реализовано до предстоящих выборов, а более реалистичный срок указывает на 2027 год.