Dresde — Lors de la conférence Brains on Silicon à Dresde, le journaliste Gregor Schmalzried a mis en garde contre le risque que la confiance excessive dans l’IA n’entraîne une baisse de la pensée critique. Schmalzried, cofondateur et animateur de « Der KI‑Podcast », a centré sa présentation sur la manière de travailler avec des agents d’IA sans perdre ses propres capacités.
IA et perte de sens critique
Schmalzried a cité une étude de Microsoft indiquant que la pensée critique décline à mesure que la confiance accordée à l’IA augmente. Il a averti que le danger n’est pas seulement qu’une IA dépasse l’humain, mais que les humains eux-mêmes se laissent distancer.
Il a illustré les conséquences d’une confiance aveugle par l’exemple du cabinet de conseil Deloitte : celui‑ci avait remis au gouvernement australien un rapport de 250 pages dont certaines sources se sont révélées fabriquées par une IA.
Schmalzried a également présenté une expérience personnelle pour montrer qu’il ne faut pas accepter les réponses fournies par une IA sans vérification. Il a envoyé à un chatbot un selfie pris sous un passage souterrain de métro et lui a demandé de deviner où il se trouvait. L’IA a identifié le lieu précisément. Interrogée sur son mode de raisonnement, elle a fourni une explication détaillée évoquant des panneaux en acier et la couleur de l’asphalte ; ce récit s’est avéré inventé. Ce n’est qu’après de nouvelles questions que le chatbot a admis avoir simplement extrait des coordonnées des données de l’image. Le résultat était correct, mais le raisonnement fourni était entièrement fabriqué.
Par cette démonstration, Schmalzried a voulu souligner qu’on ne doit pas se fier aveuglément aux résultats produits par les IA et qu’il est nécessaire de conserver un regard critique tout en apprenant à collaborer avec ces outils.
