Alors que l’intelligence artificielle évolue du simple chatbot vers de véritables agents de travail, la question de l’accessibilité et de la sécurité se pose avec acuité. Lors d’une conversation enregistrée au World AI Conference à Shanghai ce mois-ci, Li Jingqiu, architecte produit chez le géant internet chinois Baidu, a illustré ce double enjeu par un exemple frappant : deux enseignants ruraux dans la cinquantaine, sans formation technique ni expérience en codage ou en IA, ont monté en moins d’une heure un système opérationnel de sélection de contenus pour une initiative locale de lecture.
Accessibilité : les agents d’IA à la portée du grand public
L’anecdote rapportée par Li Jingqiu montre que les agents d’IA peuvent réduire les barrières techniques et rendre possible pour des non-spécialistes la résolution de problèmes auparavant réservés à des experts. Ce progrès soulève l’espoir d’une démocratisation des outils d’automatisation, en particulier pour des usages concrets et locaux — ici, la mise en place rapide d’un système de sélection de contenus éducatifs.
Sécurité et contrôle des agents d’IA
Mais cette accessibilité s’accompagne de risques. Li Jingqiu alerte sur le fait que, à mesure que les agents d’IA exécutent des tâches de façon autonome, il devient crucial de garantir leur sûreté et leur contrôlabilité. Elle détaille des mesures pratiques : isoler les actions automatisées pour limiter leur portée, et restreindre les opérations à haut risque afin d’empêcher des conséquences indésirables. Ces garde-fous visent à conserver un contrôle humain sur des capacités de décision de plus en plus puissantes.
Des réponses diverses selon les régions
L’architecte note également
