Il y a quatre ans, la plupart des gens n’avaient jamais tenu de conversation avec un système d’IA ; aujourd’hui, des millions d’utilisateurs sollicitent régulièrement ChatGPT, Claude ou Gemini pour tout, de l’écriture de logiciels à des décisions financières. Cette adoption rapide coïncide avec l’émergence d’agents autonomes, un changement fondamental dans notre relation aux machines qui rend irréaliste l’exigence d’une sécurité absolument garantie.
Un agent autonome peut recevoir un objectif, définir les étapes nécessaires et les exécuter avec une implication humaine limitée. Ce basculement suscite naturellement des inquiétudes : crainte de voir des emplois remplacés par des systèmes plus rapides et moins coûteux, et peur d’une perte de contrôle à mesure que ces agents accèdent à des systèmes financiers, des réseaux d’entreprise, des informations sensibles et des infrastructures critiques. Yossi Karadi, responsable de l’Israel National Cyber Directorate, alerte par ailleurs sur la transformation rapide de la cyberguerre par l’IA et l’expansion de l’échelle et de la sophistication des attaques visant gouvernements, entreprises et infrastructures critiques.
Beaucoup du débat sur la sécurité de l’IA repose sur une attente irréaliste : que l’on puisse garantir qu’un système n’occasionnera jamais de dommage. Nous n’avons jamais atteint ce standard avec d’autres technologies majeures, et encore moins avec l’intelligence humaine.
Le problème de l’exigence d’une sûreté parfaite peut se comprendre par l’exemple de l’automobile. Lors de leur arrivée, les véhicules furent immédiatement reconnus comme dangereux : on demanda même à quelqu’un de marcher devant pour prévenir les piétons. Au fil du siècle suivant, des mesures comme la ceinture de sécurité, les règles de circulation, l’amélioration des routes, les airbags et les systèmes d’alerte ont sauvé d’innombrables vies, sans pour autant éliminer complètement les accidents qui continuent de tuer des personnes dans le monde. La société a accepté les bénéfices du transport en échange d’un certain niveau de risque, à condition de poursuivre sans cesse la réduction de ce risque.
Il faut aborder l’intelligence artificielle de la même façon pragmatique : investir massivement pour la rendre plus sûre, comprendre ses modes de défaillance et limiter les dégâts possibles, tout en renonçant à l’illusion que recherche, investissements ou régulation pourront éliminer tous les dangers. Exiger la preuve d’une sécurité absolue avant d’autoriser le développement ou le déploiement d’un système apprenant revient, en pratique, à demander l’arrêt du progrès technologique.
Vivre avec une intelligence artificielle imparfaite
L’alternative à l’utilisation de l’IA est souvent de confier les mêmes tâches à des humains, dotés d’intelligence, de jugement et de créativité, mais aussi de faiblesses bien connues : fatigue, distraction, colère, mauvais choix, dissimulation d’erreurs, influence extérieure ou comportements malhonnêtes. L’IA pose un défi similaire, avec des mécanismes de défaillance différents : un agent autonome peut mal comprendre une consigne, faire une mauvaise inférence ou accomplir une action inattendue par son opérateur.
Quand ces agents sont connectés à d’autres systèmes, leurs erreurs peuvent dépasser la simple réponse erronée d’un chatbot. Il est donc nécessaire de limiter de manière pratique les accès des agents, de surveiller leur comportement, d’intervenir quand il le faut et d’établir clairement les responsabilités en cas de problème. Les exigences doivent varier selon l’usage : un système donnant une recommandation médicale ne relève pas des mêmes contraintes qu’un outil de marketing, et un agent autorisé à transférer des fonds ou à modifier une infrastructure critique doit fonctionner sous contrôles particulièrement stricts.
La régulation gouvernementale fera partie de la réponse, mais l’État ne peut en assumer seul la charge : développeurs, employeurs, établissements d’enseignement et utilisateurs ont aussi des rôles à jouer. Une réglementation excessive comporte ses propres dangers : des exigences impossibles à satisfaire risquent d’empêcher des technologies utiles d’atteindre ceux qui en ont besoin, et les bénéfices sacrifiés seront souvent moins visibles que les risques qu’on cherche à éviter.
Qui contrôle l’intelligence artificielle ?
Un autre enjeu mérite davantage d’attention : un nombre relativement restreint d’entreprises contrôle aujourd’hui beaucoup des systèmes d’IA les plus puissants. À mesure que ces systèmes s’intègrent dans les opérations commerciales, les services publics et la prise de décision individuelle, se posent des questions sur l’accès, la responsabilité et la concentration du pouvoir. Qui décide quelles applications sont permises ? Que se passe-t-il lorsqu’une entreprise, un État ou un individu devient dépendant d’un système contrôlé par un tiers ? Comment préserver une supervision effective lorsque des machines accomplissent des tâches qui exigeaient auparavant un jugement humain ?
Ce sont des questions difficiles, et le progrès technologique avance souvent plus vite que notre capacité à y apporter des réponses universellement acceptées. Il convient d’aborder l’évolution de l’IA sans optimisme naïf ni peur excessive : toute technologie transformatrice a introduit des dangers que la société a dû apprendre à gérer. L’autonomie croissante des systèmes d’IA rend ce défi particulièrement urgent.
