Un test de cybersécurité mené avec Gemini a pris une tournure que Google n’avait clairement pas prévue.
En mai 2026, un modèle Gemini devait s’attaquer de manière autonome à des entreprises fictives dans un environnement conçu pour tester ses capacités en cybersécurité. Sauf que l’IA a trouvé un chemin vers Internet et a fini par accéder aux systèmes de trois véritables entreprises.
Le plus étonnant ? Gemini aurait réalisé lui-même qu’il n’était probablement plus dans un environnement de test et aurait arrêté ses actions.
Gemini devait normalement rester dans un environnement contrôlé
L’expérience était menée par Irregular, une société spécialisée dans l’évaluation des systèmes d’intelligence artificielle.
Le principe reste assez simple.
Gemini recevait des objectifs offensifs et devait essayer de pénétrer les systèmes d’entreprises fictives. Ce genre de test permet notamment de mesurer jusqu’où un agent IA peut aller lorsqu’on lui donne des outils de cybersécurité et une certaine autonomie.
Normalement, tout ça doit rester parfaitement isolé.
Mais cette fois, quelque chose n’a pas fonctionné comme prévu.
L’environnement de test permettait au modèle d’atteindre Internet. Gemini a alors commencé à chercher des moyens d’accéder à des systèmes qui, eux, étaient bien réels.
Trois entreprises ont réellement été compromises
Selon les informations révélées par le Wall Street Journal et confirmées par Google, Gemini a réussi à accéder aux infrastructures de trois entreprises réelles.
Le modèle aurait notamment utilisé des mots de passe devinés ainsi que des identifiants trouvés dans des dépôts accessibles publiquement.
Dans certains cas, Gemini est allé suffisamment loin pour obtenir des accès privilégiés.
Et là, forcément, on n’est plus vraiment dans le petit benchmark où une IA doit trouver le mot de passe d’un serveur fictif.
Google précise toutefois qu’aucun dommage n’a été causé.
Les entreprises concernées et les autorités compétentes ont également été informées.
Leurs noms n’ont pas été rendus publics.
Gemini s’est arrêté tout seul
C’est LA partie la plus intéressante de l’histoire.
Au cours de ses actions, Gemini aurait repéré plusieurs indices laissant penser que les systèmes auxquels il accédait n’appartenaient pas à l’environnement fictif prévu.
Le modèle a alors interrompu ses opérations.
Autrement dit, Gemini n’a pas reçu pour objectif de sortir du test pour aller attaquer de vraies entreprises.
Il a continué à suivre l’objectif initial dans un environnement qui n’était pas correctement isolé, avant de finalement détecter que quelque chose clochait.
Ça change énormément l’interprétation de l’incident.
Non, Gemini ne s’est pas « échappé » comme dans un film
Vous allez forcément voir passer des titres expliquant que Gemini s’est échappé de son laboratoire pour pirater Internet.
C’est beaucoup plus compliqué que ça.
Le problème principal semble venir de l’environnement de test qui permettait au modèle d’accéder à des ressources qu’il n’aurait jamais dû pouvoir atteindre.
Mais ça ne rend pas l’incident anodin pour autant.
Au contraire.
Il montre à quel point un agent IA capable d’utiliser des outils informatiques peut devenir dangereux si les limites techniques autour de lui sont mal configurées.
Un chatbot classique répond à une question.
Un agent peut exécuter des commandes, chercher des informations, essayer différentes méthodes et continuer jusqu’à atteindre son objectif.
La différence est énorme.
L’incident date de mai mais vient seulement d’être révélé
Les faits se sont produits en mai 2026.
Irregular a informé Google en juillet.
L’affaire n’a cependant été rendue publique que le 19 septembre 2026, après une enquête du Wall Street Journal.
Google a confirmé l’incident et précise que le modèle concerné était une ancienne version de Gemini.
L’entreprise estime également que l’événement ressemble davantage à une situation de type bug bounty ayant mal tourné qu’à une IA volontairement hostile.
On peut comprendre l’argument.
Mais le vrai enseignement est ailleurs.
À mesure que les modèles deviennent capables d’agir seuls pendant plusieurs minutes ou plusieurs heures, sécuriser l’environnement dans lequel ils travaillent devient presque aussi important que sécuriser l’IA elle-même.
Et cette fois, trois entreprises réelles ont servi involontairement de démonstration.