Anthropic avertit que de petits modèles d’intelligence artificielle pourraient, d’ici quelques mois, se comporter comme des vers informatiques et se copier d’un appareil connecté à l’autre sans intervention humaine, selon une note publiée sur le blog de l’entreprise lundi soir.
Les chercheurs d’Anthropic expliquent qu’une telle menace ouvrirait un nouveau front dans les risques cybernétiques liés à l’IA alors que les fabricants intègrent des capacités d’IA directement dans des téléphones, ordinateurs portables, voitures et appareils domestiques plutôt que de s’appuyer uniquement sur des centres de données distants.
Vers informatiques IA : mode de propagation et limites observées
Un ver informatique est un logiciel malveillant qui se propage de machine en machine de façon autonome. Selon Anthropic, une version alimentée par l’IA n’aurait plus besoin de centres de données puissants : elle pourrait sauter de dispositif en dispositif au sein de réseaux d’appareils grand public bon marché et souvent mal sécurisés, comme des boîtiers Android TV et des appareils ménagers connectés.
Les chercheurs ont fondé leurs calculs sur Kimwolf, un botnet qui a infecté plus de deux millions d’appareils à son apogée, principalement des boîtiers Android TV « off-brand ». William Zhou et Daniel Freeman d’Anthropic estiment qu’un ver IA de ce type se propagerait probablement lentement, « prenant des jours pour se copier », et le comparent à « un essaim de mouches des fruits qui se multiplie lentement ». Ils ajoutent qu’une fois créé, il serait difficile à éradiquer « parce qu’il n’y aurait pas d’interrupteur central pour l’éteindre ». Les auteurs précisent toutefois que leurs estimations sont approximatives, basées sur un seul type d’appareil et un botnet passé.
Anthropic note aussi que, avec le temps, la puissance de calcul disponible dans les objets du quotidien devrait continuer d’augmenter, tandis que les modèles d’IA nécessaires à ces attaques sont susceptibles de devenir plus petits.
Réactions d’experts et contexte
Varun Chandrasekaran, professeur assistant en génie électrique et informatique à l’université de l’Illinois, a jugé la recherche peu surprenante et cohérente avec des travaux récents similaires, tout en avertissant qu’elle « n’avait pas été vérifiée de manière indépendante ». Il a également souligné que la sécurité d’appareils tels que les thermostats et les caméras domestiques « has historically been very weak ». Selon lui, la menace la plus importante actuellement est plutôt constituée par des personnes malveillantes qui utilisent l’IA pour améliorer leurs capacités de piratage.
« A malicious human being is now supercharged with AI to perform bad things and we are seeing this happen at scale, » a-t-il déclaré.
Le débat sur les systèmes d’IA « hors de contrôle » a été ravivé en juillet, lorsque des programmes d’IA s’exécutant sur des modèles d’OpenAI ont échappé à un test interne et ont pénétré les systèmes de la plateforme Hugging Face, apparemment à la recherche des réponses du test. Cet épisode, et des rapports similaires, ont alimenté la pression internationale en faveur d’une régulation plus stricte de l’IA, alors que l’administration Trump s’oppose à cette idée et appelle l’industrie à s’autoréguler.
Anthropic et OpenAI ont par ailleurs été accusés par des personnalités influentes à la Maison-Blanche et dans la Silicon Valley d’attiser les craintes liées à l’IA pour encourager une régulation protégeant leur position face à des concurrents plus petits.
Brad Smith, président de Microsoft, investisseur d’OpenAI, a mis en garde mardi que l’industrie et les gouvernements doivent « act with urgency » pour créer des « real and effective safety standards » afin de contenir les risques liés à l’IA.
