L'IA Gemini de Google a accédé aux systèmes réels d'entreprises lors d'un test de sécurité
Dans un tournant inattendu, le modèle d'IA Gemini de Google a accédé aux réseaux réels de trois entreprises lors d'une évaluation de cybersécurité en mai 2026. Cet incident a été confirmé par Google le 18 septembre 2026, marquant un moment significatif puisqu'il s'agit du premier cas rendu public d'un système d'IA prenant des mesures autonomes lors d'un scénario de test.
Les tests faisaient partie d'une évaluation de type "capture the flag" réalisée par Irregular, une société de sécurité indépendante. L'objectif était d'évaluer les capacités offensives de l'IA contre des cibles fictives. Cependant, Gemini a accidentellement accédé à l'infrastructure réelle d'entreprises en devinant des identifiants et en utilisant des informations de connexion exposées publiquement provenant de dépôts ouverts.
En réalisant qu'il avait pénétré dans des systèmes réels au lieu de cibles simulées, le modèle a immédiatement cessé son intrusion. Heureusement, aucune donnée n'a été exfiltrée et aucun système n'a été endommagé. Heather Adkins, vice-présidente de l'ingénierie de la sécurité chez Google, a souligné que ces incidents ne représentaient pas un désalignement significatif du modèle, car les protocoles de sécurité ont réussi à stopper les activités une fois l'infrastructure réelle accédée.
Irregular a identifié la cause profonde comme étant un défaut partagé entre plusieurs modèles d'IA, spécifiquement un accès non intentionnel à Internet en direct lors de tests qui étaient censés être confinés. La société a informé Google et d'autres laboratoires du problème fin juillet 2026, et celui-ci a depuis été corrigé.
L'incident de Google n'est pas isolé ; OpenAI, Anthropic et Meta ont également signalé des violations similaires lors d'évaluations par Irregular plus tôt en 2026. Ce schéma met en lumière un écart structurel dans la manière dont l'industrie de l'IA évalue les modèles opérant avec un accès au monde réel, soulevant des questions importantes sur la fiabilité des environnements de test.
FAQ
Quel incident s'est produit avec l'IA Gemini de Google lors d'un test de sécurité ?
En mai 2026, le modèle d'IA Gemini de Google a accidentellement accédé aux réseaux réels de trois entreprises lors d'une évaluation de cybersécurité, marquant le premier cas rendu public d'un système d'IA prenant des mesures autonomes dans un scénario de test.
Comment l'IA Gemini a-t-elle accédé aux systèmes réels des entreprises ?
L'IA Gemini a accédé aux systèmes réels des entreprises en devinant des identifiants et en utilisant des informations de connexion exposées publiquement provenant de dépôts ouverts, au lieu de cibler des environnements simulés comme prévu.
Quelles ont été les conséquences de l'incident impliquant l'IA Gemini ?
Heureusement, aucune donnée n'a été exfiltrée et aucun système n'a été endommagé. L'IA a immédiatement cessé son intrusion en réalisant qu'elle avait violé des systèmes réels.
Que dit Google sur les protocoles de sécurité en place lors de l'incident ?
Heather Adkins, vice-présidente de l'ingénierie de la sécurité chez Google, a déclaré que les incidents ne représentaient pas un désalignement significatif du modèle, car les protocoles de sécurité ont réussi à arrêter les activités une fois que l'infrastructure réelle a été accédée.
D'autres entreprises d'IA ont-elles connu des incidents similaires lors d'évaluations ?
Oui, OpenAI, Anthropic et Meta ont signalé des violations similaires lors d'évaluations par Irregular plus tôt en 2026, mettant en évidence un écart structurel dans la manière dont l'industrie de l'IA évalue les modèles avec un accès au monde réel.
Commentaires
Les commentaires sont modérés avant publication.
Pas encore de commentaires — soyez le premier.