Le 16 juillet, le laboratoire chinois Moonshot AI a publié Kimi K3, un modèle à 2,8 trillions de paramètres en “open‑weight” — ses paramètres sont téléchargeables et exécutables par quiconque — qui, en l’espace de quelques jours, a détrôné Fable 5 d’Anthropic au sommet d’un classement très suivi consacré au codage. Le lendemain, le président Xi Jinping exhortait les participants à la World AI Conference de Shanghai à « saisir cette opportunité rare et historique pour encourager l’open source », tout en appelant à « des lois et règlements, une surveillance technologique, des systèmes d’alerte précoce et d’intervention d’urgence » pour garantir la sécurité de l’IA. La question est simple et urgente : la Chine peut‑elle maintenir son IA ouverte ?
Kimi K3 et la poussée vers l’ouverture
La mise à disposition des poids de Kimi K3 — des paramètres téléchargeables que n’importe qui peut exécuter — illustre une stratégie chinoise plus large. Les grandes entreprises chinoises publient régulièrement des poids ouverts (et, plus rarement, du code source complet ou des recettes d’entraînement) pour réduire leur dépendance aux technologies étrangères, étendre leur influence sur des marchés sensibles au coût et transférer les coûts d’exploitation aux utilisateurs finaux. Ces publications conviennent aussi aux laboratoires qui disposent de ressources de calcul limitées : en diffusant les poids, ils évitent la charge financière liée à l’exploitation de gros services d’inférence tout en favorisant l’adoption mondiale et l’affinage local par des tiers.
L’avantage pratique est tangible. Moonshot a reconnu que la demande avait poussé son service fermé Kimi K3 « proche des limites » de sa capacité actuelle et a temporairement suspendu les nouvelles souscriptions pour prioriser ses utilisateurs existants. La distribution des poids ouverts soulage ce type de goulet d’étranglement en déplaçant le calcul chez les déployeurs et en abaissant la barrière à l’adoption massive.
Pourquoi la frontière change la donne
À mesure que les modèles chinois approchent des capacités de pointe, les risques liés aux poids ouverts augmentent. Une diffusion ouverte est irréversible : elle permet des modifications et une redistribution sans restriction et retire au fournisseur tout contrôle sur les comportements en aval. Les régulateurs et instances normatives en Chine commencent à reconnaître ces différences : des responsables ont mis en garde contre « les risques de perte de contrôle technologique » et certains organismes ont proposé des « mécanismes de coupure » et des dispositifs d’arrêt de sécurité pour les systèmes de pointe.
Des travaux empiriques confirment ces dangers. Des chercheurs ont montré qu’un alignement de sécurité appliqué à un modèle à poids ouverts pouvait être fragilisé avec une poignée d’exemples d’affinage (fine‑tuning) ; d’autres évaluations ont relevé une forte variance dans la façon dont les modèles réagissent à des requêtes malveillantes. Des institutions chinoises — comme Alibaba Research Institute, Tencent Research Institute et l’Académie des technologies de l’information et des communications — ont souligné que les modèles ouverts accroissent les possibilités d’usage abusif, et l’organisme national chargé des normes en cybersécurité a averti que les poids ouverts facilitent « l’entraînement par des criminels de modèles malveillants ».
Le problème de l’évaluation
Un obstacle central à une ouverture sélective tient à l’évaluation : comment déterminer quels modèles sont assez sûrs pour être publiés et lesquels doivent rester fermés ? La Chine dispose déjà d’un vaste dispositif réglementaire exigeant que les entreprises auto‑évaluent leurs modèles et les enregistrent auprès des autorités provinciales, mais la mesure du risque reste ardue. Les benchmark existants sont incomplets, les capacités évoluent rapidement, et les tests adversariaux nécessaires pour déceler les vulnérabilités sont encore en développement. En l’absence d’une méthodologie d’évaluation robuste et uniforme, il sera difficile d’appliquer de manière cohérente des critères d’ouverture garantissant à la fois innovation et sécurité.
