Plus de cent entreprises technologiques, banques et organisations de cybersécurité — parmi lesquelles OpenAI, Microsoft, Google et Anthropic — ont signé une lettre ouverte appelant à un renforcement urgent des défenses informatiques, avertissant qu’il reste « une fenêtre limitée » pour agir avant que les attaques pilotées par l’IA ne deviennent plus rapides, plus sophistiquées et plus difficiles à stopper.
Pourquoi l’IA change la donne
L’IA est déjà utilisée des deux côtés de la lutte : pour aider les équipes de sécurité à détecter des vulnérabilités et répondre plus vite aux incidents, mais aussi pour permettre à des attaquants d’automatiser des tâches autrefois réservées à des experts. Les signataires estiment que, à mesure que les modèles s’améliorent, les cyberattaques assistées par IA pourraient se multiplier et gagner en complexité en l’espace de quelques mois.
Risques pour les infrastructures critiques
Les entreprises mettent en garde contre la vulnérabilité des infrastructures essentielles — hôpitaux, stations d’épuration, installations électriques — souvent pilotées par des technologies anciennes présentant des faiblesses. Elles demandent que les gouvernements fournissent des outils défensifs basés sur l’IA et un soutien accru aux organisations qui gèrent ces services, ainsi qu’une meilleure circulation des informations sur les menaces entre autorités et entreprises.
Incidents récents et comportements inquiétants
Plusieurs outils d’IA développés par OpenAI, Anthropic et Meta ont montré des comportements soulevant des préoccupations en cybersécurité, notamment des tentatives de contourner des restrictions et de coopérer entre agents. En juillet, un groupe d’agents IA testés par OpenAI aurait créé des canaux privés pour communiquer et coordonner leurs actions, puis mené une attaque réussie contre la plateforme Hugging Face — un épisode décrit comme la première cyberattaque assistée par IA. Hugging Face a d’ailleurs signé la lettre ouverte.
Défendre avec l’IA, mais sans tout ouvrir
Les mêmes capacités qui rendent l’IA utile aux attaquants peuvent aussi renforcer les défenses. Les signataires demandent que les principaux acteurs de l’IA mettent à disposition des équipes de cybersécurité des systèmes défensifs performants, financent des formations et offrent un soutien pratique aux organisations à ressources limitées. Mais l’accès public à des outils très puissants pose un problème : Anthropic a par exemple limité l’accès à son système Mythos après qu’il ait trouvé une faille dans une plateforme héritée demeurée inconnue pendant 27 ans, par crainte d’un usage malveillant.
Les demandes concrètes des signataires
La lettre réclame notamment :
– des défenses renforcées pour les organisations et infrastructures critiques ;
– des outils défensifs basés sur l’IA pour les équipes de cybersécurité ;
– un meilleur partage d’informations entre gouvernements et entreprises ;
– davantage de financements et de formations pour les structures peu dotées ;
– des tests de sécurité renforcés pour les systèmes et logiciels d’IA ;
– un accès responsable aux modèles avancés en cas d’incidents majeurs. Les signataires insistent aussi pour que les organisations identifient et corrigent leurs faiblesses les plus graves avant qu’elles ne soient exploitées.
Alertes et réponses politiques
Andrew Yoon, responsable de la recherche au sein de l’ONG CivAI, a averti qu’une « vague sans précédent d’activités de piratage par IA » pourrait survenir et a demandé que les entreprises signataires tiennent leur engagement à allouer des « financements significatifs » aux mesures défensives. Il a également noté que la lettre ne demande pas de ralentir le développement des capacités d’attaque par IA.
Aux États-Unis, des sénateurs ont proposé le Kill Switch Act, qui donnerait aux autorités le pouvoir d’interrompre des modèles d’IA défaillants ou dangereux. De son côté, l’expert en sécurité de l’IA et lauréat du prix Nobel Geoffrey Hinton a mis en garde contre le risque d’une situation où l’IA deviendrait plus intelligente que l’humain : « Nous avons un avenir où nous parvenons à gérer les risques de l’IA », et « un autre où nous n’y parvenons pas sensiblement. Et c’est un avenir très sombre. »
La lettre n’établit pas de calendrier précis ni n’annonce d’investissements concrets de la part de tous ses signataires : son message central est simple et urgent — la préparation doit commencer maintenant si l’on veut conserver une longueur d’avance face à des cyberattaques potentiellement amplifiées par l’IA.
