Las empresas de IA de EE. UU. limitan el uso de chatbots en ciberseguridad, impulsando a los profesionales hacia modelos chinos

La iniciativa del gobierno de EE. UU. para regular la IA en ciberseguridad está impulsando inadvertidamente a los profesionales hacia modelos de IA chinos, que tienen menos restricciones. Empresas estadounidenses como Anthropic y OpenAI han endurecido las capacidades de sus chatbots en respuesta a las órdenes de control de exportaciones del gobierno, destinadas a salvaguardar la seguridad nacional.

Estas restricciones tienen implicaciones significativas, ya que las líneas entre la ciberdefensa y el ciberataque pueden ser indistinguibles para los modelos de IA. Por ejemplo, Anthropic fue instruida para imponer limitaciones en sus modelos, lo que llevó a una suspensión completa de ciertas funcionalidades en lugar de arriesgarse a no cumplir con las regulaciones. Esta decisión ha tenido repercusiones inmediatas, con empresas como Hugging Face recurriendo a modelos chinos como el GLM-5.2 de Zhipu AI para tareas de ciberseguridad.

Los modelos de IA chinos, que operan bajo regulaciones menos estrictas, están dispuestos a abordar consultas de ciberseguridad que sus contrapartes estadounidenses rechazan. Este cambio genera preocupaciones sobre los compromisos de seguridad, ya que un análisis de Booz Allen Hamilton indicó que muchos modelos chinos producían código más vulnerable cuando se les presentaban perfiles del gobierno de EE. UU.

La situación presenta una paradoja regulatoria. Si bien la intención del gobierno de EE. UU. de restringir las capacidades de la IA en áreas sensibles es comprensible, ha llevado a un escenario en el que los profesionales de ciberseguridad estadounidenses están en desventaja en comparación con sus pares internacionales. Esta dinámica no solo complica el panorama competitivo, sino que también aumenta el riesgo de introducir nuevas vulnerabilidades en sistemas que se supone deben estar protegidos.

A medida que las empresas chinas continúan llevando a cabo campañas de destilación de conocimiento dirigidas a modelos de IA de EE. UU., la urgencia de una reevaluación de las regulaciones se hace evidente. Los desarrollos en curso en las capacidades de IA y la accesibilidad de los modelos chinos probablemente tendrán implicaciones significativas para el futuro de la ciberseguridad.

Nuevas Perspectivas de Ali Ghodsi de Databricks

• Ali Ghodsi, CEO de Databricks, enfatiza que muchas empresas no necesitan modelos de IA más inteligentes; más bien, necesitan un mejor contexto para sus modelos existentes.
• Destaca una "paradoja del 90%" donde solo el 10% de las personas creen que la inteligencia artificial general ha llegado, sin embargo, el 90% siente que sus herramientas de IA diarias son más inteligentes que la mayoría de sus colegas.
• Ghodsi argumenta que la falta de contexto—definido como "contexto empresarial"—es la principal barrera para maximizar la efectividad de la IA en los negocios.
• Databricks se centra en ayudar a las empresas a organizar y activar sus datos, con clientes notables como AT&T, Rivian y Mercedes-Benz.
• Predice que lograr una adopción completa de la IA empresarial podría tardar hasta una década, ya que implica cambios organizacionales significativos más allá de la simple instalación de software.