Dartmouth College a ouvert jeudi matin 29 octobre la conférence « AI at 70 » par une session intitulée « The Future Worth Building is Human », sans qu’une réponse nette n’émerge à la question centrale : « What Must Remain Human? ». Les intervenantes sont revenues à plusieurs reprises sur un point qu’elles jugent essentiel à conserver humain : le jugement.
IA et jugement humain
La conférence, qui marque les 70 ans de l’atelier d’été de 1956 à Dartmouth où le terme « artificial intelligence » a été forgé, se tient jusqu’à samedi sous le thème « What Must Remain Human? ». Avant la table ronde principale, la présidente de Dartmouth, Sian Leah Beilock, a évoqué l’actualité qui a pesé sur le collège toute la semaine : la démission mercredi du provost Santiago Schnell après qu’un examen mené par des professeurs a conclu qu’il avait utilisé de l’IA dans ses écrits sans le déclarer.
Pour Beilock, diriger sur les questions d’IA exige « avant tout » des dirigeants qui fassent preuve de transparence et de jugement humain. « Tout le monde peut obtenir en quelques secondes une réponse convaincante de l’IA », a-t-elle dit, « la compétence difficile aujourd’hui est le jugement ». Elle a ajouté que l’établissement « est encore en train d’apprendre », et préfère définir ses propres normes plutôt que de laisser « l’industrie ou le gouvernement » le faire à sa place.
Beilock a décrit l’alphabétisation à l’IA comme l’apprentissage « de savoir quand prendre la technologie et quand la poser ». Certaines classes utiliseront l’IA, d’autres non, et d’autres seront consacrées à l’IA : « un professeur d’histoire peut demander des examens sur papier, et les trois approches sont parfaitement valables ». Elle a aussi dit vouloir que chaque étudiant acquière une expérience pratique avec ces technologies. Pour illustrer l’importance de l’effort personnel, Beilock a raconté avoir passé une nuit entière en licence à programmer en Lisp à la recherche d’une parenthèse manquante, une expérience qui lui a appris à résoudre des problèmes.
Mira Murati et les risques liés à l’IA
Beilock a ensuite présenté Mira Murati, diplômée 2012 de la Thayer School of Engineering, ancienne dirigeante d’OpenAI et aujourd’hui à la tête de sa propre entreprise, Thinking Machines Lab. Murati a présenté le travail de son entreprise en termes techniques : elle développe des modèles que les clients peuvent continuer à entraîner sur leurs propres données, et a publié cet été deux modèles à poids ouverts appelés Inkling. L’idée est de permettre aux utilisateurs « de véritablement posséder l’intelligence plutôt que de la louer ».
Murati a mis en garde contre des risques liés à la manière dont l’IA est construite et contrôlée. Elle a pointé le danger d’un petit nombre d’entreprises contrôlant les systèmes d’IA les plus puissants et a signalé un risque moins évoqué que la concentration de l’argent et du pouvoir : « perte de diversité intellectuelle ». Selon elle, « tout le monde finit par hériter des mêmes forces et des mêmes angles morts », ce qui conduit à une convergence de pensée plutôt qu’à une pluralité d’idées.
Elle a rappelé qu’OpenAI avait étudié des problèmes comme les hallucinations et les usages abusifs avant le lancement de ChatGPT, mais n’avait appris à renforcer les garde-fous qu’une fois confronté aux usages réels par les utilisateurs. « Nous n’avons pas résolu le problème de l’alignement », a-t-elle ajouté, renvoyant à la difficulté de faire en sorte que les systèmes d’IA fassent ce que les humains veulent.
Les risques décrits par Murati portaient sur la conception et le contrôle des systèmes d’IA, non sur ce que les humains doivent nécessairement continuer à faire eux-mêmes. Sur la question centrale « What Must Remain Human? », elle a effleuré le sujet sans y répondre de manière définitive : « Nous allons devoir avoir une vue sur ce que signifie la valeur humaine à une époque où les machines peuvent nous supplanter dans certains domaines », a-t-elle dit, estimant que cette conversation « doit davantage entrer dans la conscience publique ».
Murati a aussi décrit une partie du savoir humain comme tacite, « qui tient dans les esprits » et n’est pas parfaitement articulé — une dimension que, selon elle, les systèmes actuels d’IA ne saisissent pas encore pleinement. Son horizon est une IA qui progresse pour mieux capter ce savoir implicite afin de « venir vers nous et nous comprendre ».
Pour les étudiants, son conseil a été pragmatique : ne pas passer ses années d’études à essayer de deviner quels emplois l’IA ne prendra pas, mais « plonger profondément » dans un domaine et le comprendre en profondeur. « Le jugement, on le développe en faisant réellement le travail », a-t-elle conclu. Elle a en outre encouragé les étudiants à utiliser tous les outils d’IA disponibles, qualifiant l’époque actuelle de « moment incroyablement précieux » pour disposer de tels « super-pouvoirs ».
Ces articles sont partagés par des partenaires de la Granite State News Collaborative. Pour plus d’informations, visiter collaborativenh.org.
