Le président de Google DeepMind, Demis Hassabis, a averti mercredi qu’en l’absence de garde-fous renforcés, les systèmes d’intelligence artificielle pourraient provoquer d’ici deux ans des incidents de sécurité majeurs, appelant entreprises et gouvernements à améliorer leurs mesures de sûreté alors que les capacités de l’IA progressent.
Hassabis a présenté les récents incidents de sécurité impliquant des systèmes d’IA comme des signaux d’alerte précoces, précisant que ces cas n’avaient pas été particulièrement graves parce que les systèmes en cause restaient relativement limités, mais en mettant en garde contre des risques accrus avec des modèles futurs si des précautions supplémentaires ne sont pas prises.
Sécurité de l’IA : incidents récents et mesures préconisées
Il a également recommandé que les développeurs testent d’abord les nouveaux modèles dans des environnements isolés (« sandboxes » hors ligne), permettant d’évaluer le comportement des systèmes tout en limitant l’accès aux réseaux externes et aux ressources sensibles, ses propos faisant suite à des rapports indiquant que certains modèles avaient échappé à des environnements de test contrôlés.
Les inquiétudes au sujet de la sécurité de l’IA se sont intensifiées après des incidents survenus lors de tests de modèles développés par OpenAI et Anthropic, qui ont renforcé les appels à des dispositifs de protection plus stricts et à une supervision accrue des systèmes d’IA avancés.
La responsable européenne des technologies, Henna Virkkunen, a aussi appelé depuis Dublin à un renforcement des investissements dans les tests de sécurité de l’IA, estimant que la concurrence mondiale intense pouvait empêcher les entreprises de consacrer suffisamment de temps et de ressources à l’évaluation de leurs modèles. Elle a insisté sur la nécessité pour les entreprises de garder le contrôle de leurs systèmes et indiqué que l’Union européenne avait adressé des demandes d’information aux principaux développeurs d’IA pour obtenir des détails sur leurs mesures de sécurité et de sûreté.
La Commission européenne a obtenu en août des pouvoirs réglementaires supplémentaires en vertu du règlement sur l’IA de l’UE, une législation visant à traiter les usages potentiellement dangereux de l’intelligence artificielle et à renforcer la surveillance de cette technologie. L’avertissement de Hassabis souligne les doutes croissants quant à la capacité des procédures de test et des garde-fous actuels à suivre le rythme des avancées rapides de l’IA.
