Ejecutivos de IA se Preparan para Posibles Reacciones Negativas Ante Preocupaciones por Ciberataques

Ejecutivos de importantes empresas de IA están tomando medidas para prepararse ante las consecuencias de un posible desastre a gran escala, especialmente un ciberataque que podría paralizar el acceso a servicios financieros, conectividad a internet o servicios esenciales como la electricidad y el agua. Según un informe de Axios, esta preparación surge en medio de la creciente preocupación pública sobre la seguridad de las tecnologías de IA.

OpenAI ha confirmado que realiza ejercicios de preparación para discutir diversos escenarios potenciales, enfatizando que estas discusiones no se consideran resultados inevitables, sino más bien un medio para prepararse ante diversas circunstancias. Anthropic ha optado por no comentar sobre el asunto.

Los esfuerzos de planificación incluyen la creación de equipos de 'red-teaming' para los peores escenarios y tienen como objetivo educar a los miembros del Congreso sobre las implicaciones de las tecnologías de IA. Aunque los ejecutivos reconocen que las medidas regulatorias son poco probables en este momento, están interesados en influir en la legislación y políticas futuras que puedan surgir tras un incidente significativo.

Un incidente reciente que involucró a un hacker de China, quien supuestamente utilizó herramientas de IA para infiltrarse en organizaciones financieras de Corea del Sur, subraya los riesgos potenciales. Se informa que el hacker utilizó modelos de IA para robar datos de miles de clientes bancarios, mostrando el panorama en evolución de las amenazas cibernéticas.

Muchos expertos de la industria de IA creen que un evento importante podría ocurrir dentro de los próximos seis a doce meses, lo que ha llevado a discusiones sobre medidas legislativas como el AI Kill Switch Act, que busca asegurar que los desarrolladores mantengan la capacidad de controlar sistemas de IA poderosos.