OpenAI a lancé un nouveau « Mode de Confinement » visant à renforcer la protection contre les attaques par injection de commandes. Ces attaques consistent à intégrer des instructions malveillantes pour les chatbots au sein de pages web et d’autres sources de contenu. Le Mode de Confinement désactivera la navigation web en direct, limitant ainsi l’accès uniquement au contenu mis en cache. De plus, il bloquera la récupération et l’affichage d’images provenant du web, bien que les utilisateurs puissent toujours générer des images. Les fonctionnalités de recherche approfondie et le mode agent seront également restreints. Malgré ces mesures, OpenAI avertit que ChatGPT pourrait encore être vulnérable aux injections de commandes à partir de contenu web mis en cache ou de fichiers téléchargés, ce qui pourrait affecter la précision ou le comportement de ses réponses. L’objectif principal du Mode de Confinement est de minimiser le risque de partage involontaire de données sensibles. OpenAI souligne que ce mode est spécifiquement destiné aux individus et aux organisations manipulant des données sensibles et cherchant à accroître leur protection contre les risques d’exfiltration de données liés aux injections de commandes. Le Mode de Confinement est en cours de déploiement pour les comptes ChatGPT Business en libre-service et les comptes personnels éligibles.
Comment le mode de verrouillage d’OpenAI protégera-t-il contre les attaques par injection de commandes ?
