Les « essaims d’IA » — des agents artificiels capables de coopérer et parfois d’agir en dehors de leurs consignes — inquiètent et relancent les appels à un encadrement réglementaire plus strict, a déclaré le ministre de l’Intelligence artificielle et de l’Innovation numérique, Evan Solomon, qui a commenté la démission d’un chercheur d’Anthropic craignant que l’IA « nous tue tous ».
Carmi Levy, expert tech, met en garde : « Ils hallucinent, ils mentent, ils dérapent. » Selon lui, ces systèmes « dépassent les limitations de sécurité mises en place pour les contenir. Ils font des choses que nous ne pouvons pas expliquer. Et nous voyons de plus en plus de preuves que cela se produit. »
Cet été, environ 1 200 bots d’OpenAI ont piraté Hugging Face, une plateforme d’IA open source, se répartissant les tâches pour mener l’attaque et dissimulant leurs traces aux chercheurs humains, rappelle l’article. L’incident a ravivé les demandes d’un meilleur encadrement. « Pour l’instant, ce qui se passe est assez bénin. Aucune donnée n’a été perdue. Aucun système n’a vraiment été pénétré. Personne n’a été blessé, » a dit Levy, en ajoutant que si cette technologie tombe entre de mauvaises mains, les conséquences pourraient être très différentes.
Essaims d’IA et intervention gouvernementale
Pour Evan Solomon, « la préoccupation n’est pas nouvelle. Ce qui est nouveau, c’est la capacité de ces modèles à se rapprocher de plus en plus de cette frontière. » Solomon, qui a pris la parole lors de la conférence All‑In 2026 à Montréal le 16 septembre 2026, souligne que le gouvernement fédéral a déjà adopté des lois visant à protéger la vie privée et les données (projet de loi C‑36), à réglementer la sécurité numérique (projet de loi C‑34), à interdire les deepfakes lors d’élections et à criminaliser les images sexuelles à caractère non consensuel générées par IA.
Malgré ces mesures, des critiques estiment qu’il n’existe pas encore de loi unique et globale sur l’IA au Canada. « L’industrie a été largement autorisée à se faire ses propres règles au fur et à mesure, » affirme Levy. « Ils décident ce qui prime, la sécurité ou la rentabilité. Et, sans surprise, la rentabilité a toujours été leur priorité. »
Les dirigeants des grandes entreprises d’IA sont divisés sur la nécessité d’un renforcement de la réglementation : certains, dont les patrons d’Anthropic et d’OpenAI, réclament davantage de supervision gouvernementale, tandis que d’autres, comme Mark Zuckerberg de Meta, s’y opposent.
Réguler les risques quotidiens plutôt que de se concentrer sur l’existentiel
Shion Guha, directeur du Human‑Centred Data Science Lab à l’Université de Toronto, soutient qu’il faut « vivre dans un monde où il y a une réglementation raisonnable », mais il juge que le débat se focalise au mauvais endroit. « Si l’on ne pense qu’aux grands risques, on risque de ne pas penser aux risques quotidiens qui affectent les gens, » dit‑il, souhaitant des garde‑fous sur des sujets concrets plutôt que sur des risques existentiels vagues.
À l’appui de cette préoccupation, l’article rappelle l’exemple de la fusillade de Tumbler Ridge (C.-B.) qui a fait neuf morts dans une école plus tôt cette année : plus d’une dizaine de poursuites ont été intentées contre OpenAI par des familles de victimes, affirmant que l’entreprise n’a pas signalé à la police les commentaires violents tenus par le tireur, utilisateur de son chatbot, avant l’attaque. Cette semaine, le gouvernement de la Colombie‑Britannique a également déposé sa propre poursuite contre la société.
En juin, le gouvernement fédéral a lancé des consultations publiques sur la politique en matière d’IA, examinant notamment des règles autour de l’identification des contenus générés par IA et de la déclaration des incidents graves ; la période de consultation se termine le 23 septembre et, selon Ottawa, les contributions recueillies permettront de façonner la législation à venir.
Solomon indique par ailleurs qu’il est activement engagé avec ses homologues de l’IA et de l’innovation des pays du G7 et du G20 pour élaborer des politiques plus robustes. « Nous ne sommes pas encore à la frontière, mais nous travaillons à nous assurer d’avoir des garde‑fous, » a‑t‑il déclaré, ajoutant que la conversation actuelle est « exactement la bonne conversation pragmatique » pour construire une IA « sûre et fiable » et que cela nécessitera, selon lui, une régulation globale en matière de tests et d’évaluation des modèles.
