Le gouvernement fédéral canadien investit 150 millions de dollars dans LawZero, l’organisme montréalais créé par Yoshua Bengio, pour développer des modèles d’intelligence artificielle conçus pour être « sûrs par conception ». L’Allemagne apporte en complément 100 millions d’euros, pour un montant combiné qualifié de « plus d’un quart de milliard de dollars » et évalué dans une annonce à « jusqu’à 300 millions de dollars canadiens ». C’est la première fois que des fonds fédéraux sont accordés à LawZero.
IA sûre et Scientist AI
LawZero, lancé par Yoshua Bengio l’an dernier, travaille notamment sur un modèle appelé Scientist AI, décrit comme « sûr par conception » : il viserait à se concentrer uniquement sur des vérités objectives, à comprendre des faits sans poursuivre ses propres objectifs (comme satisfaire son utilisateur humain), et pourrait servir de garde-fou pour d’autres modèles d’IA. L’annonce a été faite en présence de représentants des gouvernements canadien et allemand.
Yoshua Bengio, prenant la parole lors de la conférence All In à Montréal, a déclaré qu’il agissait « avec l’urgence que je ressens dans mes os, parce que je veux que mes enfants et mes petits-enfants aient un avenir ». Le gouvernement fédéral présente cet investissement comme une composante de sa stratégie en faveur d’un développement responsable de l’IA ; selon le ministre de l’Intelligence artificielle Evan Soloman, « nous sommes ici aujourd’hui non pas parce que nous répondons à la une d’hier, mais parce que nous répondons à la position philosophique que nous avons prise, qui est de construire de manière responsable et sécuritaire ».
Risques, limites et approche multi‑piliers
Les inquiétudes sur les risques de l’IA se sont intensifiées, notamment après qu’un chercheur quittant Anthropic a averti qu’il existait une possibilité que l’IA puisse anéantir l’humanité dans la décennie à venir. Des voix politiques appellent aussi à des instances de gouvernance internationales, comme l’a fait Prime Minister Mark Carney dans une interview.
Plusieurs experts soulignent qu’il n’existe pas de solution miracle aujourd’hui pour éviter des problèmes tels que les hallucinations de l’IA, la diffusion de désinformation ou des actions prises sans permission humaine explicite. Jaxson Khan, expert en politique et adoption de l’IA à la Munk School of Global Affairs de l’Université de Toronto, a indiqué que nous disposons de systèmes d’IA très puissants et transformateurs et que des acteurs américains et chinois exploitent déjà de tels systèmes, une tendance susceptible de se poursuivre. Selon lui, « il faut pouvoir développer des alternatives qui, idéalement, soient plus sûres par conception » et l’investissement canadien en partenariat avec l’Allemagne mérite d’être observé.
Capacité nationale et partenariats
L’annonce intervient quelques heures après la signature d’un accord de fusion entre deux entreprises d’IA : la canadienne Cohere et l’allemande Aleph Alpha. Vass Bednar, directrice générale du think tank Canadian Shield Institute, a estimé que cela constituait, selon elle, un effort de renforcement des capacités : « Nous avons la capacité de rattraper notre retard et de construire des alternatives. Nous devons aussi y croire. Nous ne pouvons pas… nous laisser convaincus de l’inévitabilité de la technologie ou de ses dommages. »
Les promoteurs du projet insistent sur une approche multipoints pour faire une différence face aux risques. Bengio a conclu que renoncer n’était pas une option.
