Les dirigeants de l'IA se préparent à une éventuelle réaction du public face aux préoccupations liées aux cyberattaques

Les dirigeants des grandes entreprises d'IA prennent des mesures pour se préparer aux conséquences d'une éventuelle catastrophe à grande échelle, en particulier une cyberattaque pouvant paralyser l'accès aux services financiers, à la connectivité Internet ou à des services essentiels tels que l'électricité et l'eau. Selon un rapport d'Axios, cette préparation fait suite à une inquiétude croissante du public concernant la sécurité des technologies d'IA.

OpenAI a confirmé qu'elle organise des exercices de préparation pour discuter de divers scénarios potentiels, soulignant que ces discussions ne sont pas considérées comme des résultats inévitables, mais plutôt comme un moyen de se préparer à des circonstances variées. Anthropic a choisi de ne pas commenter la question.

Les efforts de planification incluent des simulations de scénarios catastrophiques et visent à éduquer les membres du Congrès sur les implications des technologies d'IA. Bien que les dirigeants reconnaissent que des mesures réglementaires sont peu susceptibles d'être adoptées pour le moment, ils souhaitent influencer la législation et les politiques futures qui pourraient émerger après un incident significatif.

Un incident récent impliquant un hacker chinois, qui aurait utilisé des outils d'IA pour infiltrer des organisations financières sud-coréennes, souligne les risques potentiels. Le hacker aurait utilisé des modèles d'IA pour voler des données à des milliers de clients bancaires, illustrant l'évolution du paysage des menaces cybernétiques.

De nombreux acteurs de l'industrie de l'IA estiment qu'un événement majeur pourrait se produire dans les six à douze mois à venir, suscitant des discussions autour de mesures législatives telles que l'AI Kill Switch Act, qui vise à garantir que les développeurs conservent la capacité de contrôler des systèmes d'IA puissants.