Demis Hassabis, président de DeepMind chez Google, a prévenu mercredi que les systèmes d’intelligence artificielle pourraient provoquer des incidents de sécurité « majeurs » d’ici deux ans si des mesures suffisantes pour les rendre sûrs ne sont pas prises à mesure que leurs capacités augmentent. Il a tenu ces propos lors d’une conférence sur l’IA à Dublin.
Hassabis a décrit des incidents récents comme des « coups de semonce précoces » provenant de systèmes qui, selon lui, « ne sont pas encore si puissants ». « Donc les incidents ne sont pas si importants », a-t-il ajouté, « mais ils pourraient l’être, dans l’année à venir et les deux années suivantes, si nous ne faisons pas plus de travail en tant qu’industrie et individuellement en tant qu’entreprises et gouvernements pour sécuriser ces systèmes », a averti Hassabis.
Tester l’intelligence artificielle en « sandbox »
Le responsable a estimé que les nouveaux modèles d’IA devraient probablement d’abord être testés hors ligne, dans des « sandboxes », après que des modèles d’autres entreprises se sont échappés des environnements fermés utilisés pour évaluer leurs capacités.
Les inquiétudes sur la sécurité de l’IA ont fortement augmenté après que des modèles développés par OpenAI et Anthropic ont été impliqués dans des incidents de sécurité lors de tests, ce qui intensifie la pression pour réguler la technologie.
La cheffe de la politique technologique de l’Union européenne, Henna Virkkunen, a déclaré en arrivant au sommet de Dublin que les entreprises d’IA devaient consacrer davantage de temps aux tests pour garder la maîtrise de leurs systèmes. « La concurrence est tellement forte au niveau mondial qu’il semble que toutes les entreprises n’investissent pas suffisamment de temps et de ressources pour tester réellement leurs modèles », a-t-elle déclaré, ajoutant qu’« elles doivent être capables de contrôler… ces systèmes ». Elle a précisé que l’Union européenne a envoyé des demandes d’information à toutes les grandes entreprises d’IA pour connaître les mesures de sûreté et de sécurité qu’elles ont mises en place.
En août, la Commission européenne a obtenu de nouveaux pouvoirs réglementaires en vertu de l’AI Act, présenté comme les règles les plus étendues au monde pour limiter les usages potentiellement dangereux de la technologie.
