Un modèle d’intelligence artificielle Gemini de Google a accédé sans autorisation aux systèmes de trois entreprises au cours d’un exercice de cybersécurité, dans ce que Google présente comme le premier cas connu où l’un de ses systèmes d’IA mène de façon autonome une telle action hors du périmètre prévu. L’incident, survenu en mai, a été révélé vendredi et rapporté samedi par Reuters et le Times of Israel.

L’exercice était organisé avec Irregular, une société indépendante chargée d’évaluer les capacités et les risques des modèles d’intelligence artificielle en matière de cybersécurité. Gemini disposait d’un accès à Internet afin d’accomplir les tâches qui lui avaient été confiées. Mais au cours du test, le système a identifié des informations accessibles publiquement puis s’en est servi pour entrer dans trois sites qui ne faisaient pas partie des cibles autorisées.

Dans l’un des cas, Gemini a procédé à plusieurs tentatives sur des mots de passe jusqu’à trouver des identifiants lui permettant d'accéder à un système protégé. Dans les deux autres, l’IA a découvert dans un dépôt publi