L’Équipe nationale d’intervention d’urgence en cas d’incident de réseau informatique en Chine a émis une alerte de sécurité concernant des packages de compétences d’agents d’IA qui pourraient entraîner des risques de jailbreak et de minage de cryptomonnaies. Ces packages, destinés à améliorer les capacités des IA, circulent sous des noms trompeurs, permettant potentiellement aux utilisateurs de contourner les restrictions de sécurité ou d’exploiter les ressources des appareils à des fins illégales. De telles actions peuvent entraîner la génération de contenus illégaux, la suspension de comptes, la dégradation des performances des appareils et l’implication dans des activités criminelles telles que le blanchiment d’argent. Les utilisateurs et les organisations sont invités à rester vigilants, à vérifier les sources des compétences, à surveiller les comportements et à supprimer les composants suspects. Certaines compétences prétendent permettre aux modèles d’IA de répondre à toute question en contournant les mesures de sécurité, ce qui peut entraîner des fuites de confidentialité et des risques juridiques. Une compétence identifiée, “godmode”, contenait des modules d’attaque incitant les systèmes d’IA à briser les barrières de sécurité. Un autre cas impliquait des compétences avec des fonctions de minage de cryptomonnaies, pouvant entraîner des responsabilités légales et des pertes économiques. Pour atténuer ces risques, les utilisateurs devraient obtenir des compétences uniquement à partir de sources officielles, éviter d’installer des packages offrant des fonctionnalités de jailbreak, faire preuve de prudence avec les autorisations et utiliser l’authentification multi-facteurs. Les entreprises sont encouragées à mettre en œuvre des vérifications de sécurité, à utiliser des environnements réseau isolés et à appliquer des stratégies de protection des données.
Les compétences des agents IA posent-elles des menaces de jailbreak et de crypto-minage ?
