Джейкоб Коксон даст показания на слушаниях Совета Нью-Йорка по рискам безопасности ИИ

Джейкоб Коксон, ранее работавший в компании Anthropic, собирается дать показания на слушаниях Совета Нью-Йорка, посвященных рискам безопасности, связанным с искусственным интеллектом. Слушания, запланированные на 5 октября 2026 года, также будут включать представителей известных компаний в области ИИ, таких как OpenAI, Google и Meta.

Слушания, инициированные спикером Совета Джули Менин, соберут всех 51 члена совета, что станет значимым законодательным событием, на котором впервые в США будет вынуждено даваться присяжное свидетельство по вопросам безопасности ИИ. Совет обратился к генеральным директорам крупных компаний в области ИИ, включая Дарио Амодеи из Anthropic и Сэма Альтмана из OpenAI, пригласив их участвовать. Однако не все компании отреагировали положительно; SpaceXAI недавно был вызван в суд за несоблюдение требований.

Во время заседания законодатели рассмотрят несколько законодательных инициатив, направленных на повышение безопасности ИИ. Ключевые меры включают требование третьей стороны для валидации ИИ-систем, используемых в городе, установление стимулов для информаторов, чтобы они сообщали о небезопасных практиках, и предоставление гражданам права подавать иски за ущерб, причиненный ИИ-системами.

Коксон, который ушел из Anthropic в начале сентября 2026 года, активно высказывается о опасностях ИИ, утверждая, что компании «играют с нашими жизнями». Его отставка и последующие заявления значительно повлияли на инициативу по проведению этих слушаний, подчеркивая растущую озабоченность некоторых исследователей по поводу экзистенциальных рисков, связанных с передовыми технологиями ИИ.

Генеральный директор Microsoft AI Мустафа Сулейман также прокомментировал последствия отставки Коксона, связывая это с опасениями по поводу саморегулирования ИИ и потенциальной возможности систем эволюционировать вне человеческого контроля. Эта продолжающаяся дискуссия отражает более широкие опасения в индустрии ИИ относительно управления и практик безопасности.