Политика
Руководители AI готовятся к возможной реакции общества на угрозы кибератак
Руководители крупных AI-компаний, как сообщается, принимают меры для подготовки к последствиям возможной крупномасштабной катастрофы, особенно кибератаки, которая может парализовать доступ к финансовым услугам, интернет-соединению или жизненно важным коммунальным услугам, таким как электроэнергия и вода. Согласно отчету Axios, эта подготовка происходит на фоне растущей общественной озабоченности по поводу безопасности технологий AI.
OpenAI подтвердила, что проводит учения по подготовке, чтобы обсудить различные потенциальные сценарии, подчеркивая, что эти обсуждения не рассматриваются как неизбежные исходы, а скорее как способ подготовки к разнообразным обстоятельствам. Anthropic решила не комментировать данное дело.
Планирование включает в себя 'red-teaming' для сценариев наихудшего развития событий и направлено на информирование членов Конгресса о последствиях технологий AI. Хотя руководители понимают, что регуляторные меры в настоящее время маловероятны, они стремятся повлиять на будущее законодательство и политику, которые могут возникнуть после значительного инцидента.
Недавний инцидент с хакером из Китая, который якобы использовал инструменты AI для взлома южнокорейских финансовых организаций, подчеркивает потенциальные риски. Хакер, как сообщается, использовал модели AI для кражи данных у тысяч клиентов банков, демонстрируя изменяющийся ландшафт киберугроз.
Многие инсайдеры в индустрии AI считают, что крупное событие может произойти в течение следующих шести-двенадцати месяцев, что побуждает обсуждения законодательных мер, таких как законопроект AI Kill Switch Act, который направлен на обеспечение того, чтобы разработчики сохраняли возможность контролировать мощные системы AI.
FAQ
Что делают руководители в области ИИ для подготовки к потенциальным кибератакам?
Руководители в области ИИ проводят учения по готовности, чтобы обсудить различные потенциальные сценарии катастроф, включая кибератаки, которые могут нарушить финансовые услуги и жизненно важные коммунальные услуги. Они также участвуют в 'красной команде', чтобы исследовать сценарии худшего случая.
Каково значение недавней кибератаки с участием хакера из Китая?
Инцидент подчеркивает развивающиеся риски, связанные с технологиями ИИ, поскольку хакер, как сообщается, использовал инструменты ИИ для взлома южнокорейских финансовых организаций и кражи данных у тысяч клиентов банков.
Столкнулись ли компании ИИ с какими-либо регуляторными мерами в настоящее время?
Руководители признают, что регуляторные меры в настоящее время маловероятны, но они активно стремятся повлиять на будущее законодательство и политику, которые могут возникнуть после значительных инцидентов.
Что такое Закон о 'выключателе' ИИ?
Закон о 'выключателе' ИИ - это предложенная законодательная мера, направленная на обеспечение того, чтобы разработчики сохраняли возможность контролировать мощные системы ИИ, особенно в случае серьезного инцидента.
Как компании ИИ воспринимают обсуждения о потенциальных катастрофах?
Компании ИИ рассматривают эти обсуждения не как неизбежные последствия, а как способ подготовиться к разнообразным обстоятельствам и проинформировать законодателей о последствиях технологий ИИ.