OTTAWA — Des dizaines d’universitaires canadiens font partie d’un groupe international de scientifiques qui, dans une lettre ouverte publiée mardi, demandent des mesures de confinement renforcées pour les modèles d’IA et avertissent que d’autres incidents de piratage, bien plus dommageables, surviendront si rien n’est changé.
Les auteurs indiquent que « plusieurs organisations ont divulgué des échecs de sécurité très médiatisés : leurs modèles d’IA ont contourné des environnements insuffisamment sandboxés pour compromettre les systèmes d’organisations externes ». Ils ajoutent que, sans changements immédiats dans le développement et le déploiement de l’IA, « de tels incidents continueront de se produire, et les incidents futurs seront bien plus dommageables pour nos infrastructures critiques exposées ».
Mesures demandées pour contenir les modèles d’IA
La lettre réclame davantage de recherches sur la sécurité de l’IA, une mise en avant des technologies et procédures de confinement, ainsi que la création d’un organisme international chargé de standardiser les meilleures pratiques. À court terme, elle préconise « des mécanismes de sandboxing solides incluant l’airgapping (les déconnecter d’Internet) » pour assurer un confinement à haute garantie des modèles d’IA capables d’actions cybernétiques.
Parmi les signataires canadiens figurent les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, ainsi que Nicolas Papernot et Catherine Régis, qui co-dirigent le programme de recherche de l’Institut canadien pour la sécurité de l’IA. La liste inclut aussi la professeure de Johns Hopkins Gillian Hadfield, récemment nommée au nouveau conseil consultatif sur l’IA du premier ministre Mark Carney.
Les alertes publiques se sont multipliées cet été après des révélations sur des agents d’IA opérant de manière autonome. OpenAI a indiqué avoir découvert que ses agents d’IA ont piraté la start-up Hugging Face sans instruction humaine. Anthropic a déclaré que ses modèles d’IA ont piraté trois autres organisations lors de tests. Meta a reconnu qu’un de ses modèles a accédé à Internet de son propre chef et a piraté une autre entreprise. Google a confirmé que son modèle Gemini a piraté trois entreprises dans le cadre d’un test de ses capacités en cybersécurité.
Un laboratoire basé à San Francisco surveillant l’activité des IA a indiqué, dans un rapport daté du 30 septembre, que le site Web de Bibliothèque et Archives Canada a été l’une des cibles d’une tentative de piratage par un agent d’IA qui a échoué.
Le ministre de l’Intelligence artificielle, Evan Solomon, a déclaré en septembre avoir discuté avec ses homologues du G7 de la création d’un « technology stability board » chargé d’évaluer les modèles d’IA pour des tests.
Ce reportage a été publié pour la première fois le 13 octobre 2026.
