Les entreprises américaines d'IA limitent l'utilisation des chatbots en cybersécurité, poussant les professionnels vers des modèles chinois

L'initiative du gouvernement américain visant à réguler l'IA en cybersécurité pousse involontairement les professionnels vers des modèles d'IA chinois, qui sont soumis à moins de restrictions. Des entreprises américaines comme Anthropic et OpenAI ont resserré les capacités de leurs chatbots en réponse aux ordres de contrôle des exportations du gouvernement, destinés à protéger la sécurité nationale.

Ces restrictions ont des implications significatives, car les frontières entre cyberdéfense et cyberattaque peuvent être indiscernables pour les modèles d'IA. Par exemple, Anthropic a été contraint d'imposer des limitations sur ses modèles, entraînant une suspension complète de certaines fonctionnalités plutôt que de risquer une non-conformité. Cette décision a eu des répercussions immédiates, avec des entreprises comme Hugging Face se tournant vers des modèles chinois tels que le GLM-5.2 de Zhipu AI pour des tâches de cybersécurité.

Les modèles d'IA chinois, opérant sous des réglementations moins strictes, sont prêts à traiter des requêtes en cybersécurité que leurs homologues américains refusent. Ce changement soulève des inquiétudes quant aux compromis en matière de sécurité, une analyse de Booz Allen Hamilton ayant indiqué que de nombreux modèles chinois produisaient un code plus vulnérable lorsqu'ils étaient sollicités avec des personas du gouvernement américain.

La situation présente un paradoxe réglementaire. Bien que l'intention du gouvernement américain de restreindre les capacités de l'IA dans des domaines sensibles soit compréhensible, cela a conduit à un scénario où les professionnels américains de la cybersécurité se retrouvent désavantagés par rapport à leurs homologues internationaux. Cette dynamique complique non seulement le paysage concurrentiel, mais augmente également le risque d'introduire de nouvelles vulnérabilités dans des systèmes censés être protégés.

Alors que les entreprises chinoises continuent de mener des campagnes de distillation des connaissances ciblant les modèles d'IA américains, l'urgence d'une réévaluation des réglementations devient évidente. Les développements en cours dans les capacités de l'IA et l'accessibilité des modèles chinois auront probablement des implications significatives pour l'avenir de la cybersécurité.

Nouvelles perspectives d'Ali Ghodsi de Databricks

• Ali Ghodsi, PDG de Databricks, souligne que de nombreuses entreprises n'ont pas besoin de modèles d'IA plus intelligents ; elles ont plutôt besoin d'un meilleur contexte pour leurs modèles existants.
• Il met en avant un "paradoxe des 90%" où seulement 10% des personnes croient que l'intelligence artificielle générale est arrivée, tandis que 90% estiment que leurs outils d'IA quotidiens sont plus intelligents que la plupart de leurs collègues.
• Ghodsi soutient que le manque de contexte—défini comme "contexte d'entreprise"—est le principal obstacle à la maximisation de l'efficacité de l'IA dans les entreprises.
• Databricks se concentre sur l'aide aux entreprises pour organiser et activer leurs données, avec des clients notables tels qu'AT&T, Rivian et Mercedes-Benz.
• Il prédit que l'adoption complète de l'IA en entreprise pourrait prendre jusqu'à une décennie, car cela implique des changements organisationnels significatifs au-delà de l'installation de logiciels.