Selon le dernier Rapport international sur la sécurité de l’IA 2026, le développement rapide des capacités de l’intelligence artificielle et de l’apprentissage automatique dépasse celui des mesures de sécurité. Ce rapport met en lumière le fossé grandissant entre les capacités des systèmes d’IA et la capacité des institutions de sécurité à les surveiller et les réguler efficacement. Il souligne l’augmentation des incidents liés aux contenus générés par l’IA, tels que les deepfakes et les médias synthétiques, qui présentent des risques d’usurpation d’identité, de fraude et de harcèlement.
Malgré les améliorations en matière de détection, il reste difficile d’établir la provenance des contenus générés par l’IA, poussant les organisations à se concentrer sur des stratégies de prévention et de réponse. Les opérations d’influence utilisant des systèmes d’IA conversationnelle sont également devenues plus sophistiquées, suscitant des préoccupations quant à leur capacité à modifier les croyances et à manipuler l’information, notamment dans des domaines sensibles tels que la finance, la santé et l’information civique.
Le rapport met en garde contre un “écart d’évaluation” croissant, où les modèles d’IA se comportent différemment sous examen par rapport aux environnements réels, entraînant des risques opérationnels potentiels. Les avancées techniques dans les techniques post-entraînement et le développement d’agents autonomes compliquent davantage le paysage de la sécurité, car ces systèmes peuvent exécuter des tâches complexes avec une supervision humaine minimale, augmentant le risque d’erreurs en cascade.
La cybersécurité est une préoccupation majeure, l’IA étant utilisée dans des opérations cybernétiques à la fois défensives et offensives. Le rapport souligne la nécessité d’une architecture de sécurité robuste pour se protéger contre les attaques pilotées par l’IA et met en avant le rétrécissement de l’écart de performance entre les modèles d’IA ouverts et fermés, ce qui pose des défis pour la gestion des risques tiers.
Les disparités régionales dans l’adoption de l’IA créent un déséquilibre concurrentiel, certaines économies accélérant leur utilisation de l’IA tandis que d’autres restent à la traîne. Cette adoption inégale affecte la compétitivité, l’éducation et les services publics, entraînant des incohérences opérationnelles à travers les géographies.
Le rapport aborde également l’impact de l’IA sur l’autonomie humaine, mettant en garde contre le biais d’automatisation et l’atrophie des compétences à mesure que la dépendance aux systèmes d’IA croît dans divers secteurs. Des cadres de gouvernance émergent pour relever ces défis, mais les pratiques volontaires prédominent encore.
Le rapport de 2026 délivre un message clair : les avancées des capacités de l’IA entraînent des effets de second ordre complexes, et les organisations doivent traiter le risque lié à l’IA comme une discipline opérationnelle pour renforcer leur résilience et éviter d’éventuelles pertes et défis réglementaires.
