Le président Donald Trump a réuni des responsables du secteur technologique à Washington fin du mois dernier pour un déjeuner suivi de la signature cérémonielle d’un pacte volontaire de 308 mots qu’il a qualifié d’« almost a constitution » autour de « Super Intelligence ». À San Francisco, fondateurs et investisseurs se sont montrés enthousiastes face à l’orientation de la Maison-Blanche en faveur d’une non-régulation de l’IA.
IA : accord volontaire et auto-surveillance
Le texte signé demande aux laboratoires d’IA avancée de suivre des protocoles de sécurité et de constituer des équipes internes chargées de surveiller leurs progrès, mais l’administration n’a pas précisé, comme l’a noté le directeur général d’OpenAI Sam Altman, comment empêcher que « bad things » n’arrivent. Le document a été signé par des représentants d’OpenAI, Anthropic, Meta, Google, SpaceXAI et Nvidia.
Sur le plan politique, l’administration Trump a renié un décret exécutif de l’ère Biden visant à protéger contre les risques des systèmes d’IA pour les consommateurs, les travailleurs et la sécurité nationale, a annulé des obligations précédentes de partage des résultats des tests de sécurité avec le gouvernement fédéral et a signé un décret visant à empêcher les réglementations au niveau des États.
Exultation à San Francisco et enjeux financiers
Tech Week a rempli les restaurants de San Francisco, où des fondateurs et des investisseurs ont salué l’approche favorable à l’industrie, estimant qu’une régulation limitée favoriserait les profits, notamment dans la défense et la sécurité. Lors d’une table ronde organisée dans le cadre d’une série d’événements pop-up par Andreessen Horowitz, Kyle Stanford, directeur de recherche en capital-risque chez PitchBook, a souligné que « le gouvernement américain alloue pour la première fois 1 trillion de dollars à ses dépenses de défense. Et 13,5 milliards de cela iront aux systèmes autonomes et à l’IA », attirant selon lui des capitaux sans précédent vers la défense technologique.
Critiques, démissions et enquêtes
Le jour suivant, trois chercheurs d’OpenAI ont indiqué depuis le siège de l’entreprise qu’ils avaient été renvoyés, affirmant que « fear and unclear rules stymie AI safety work ». David Robinson, ancien responsable de l’équipe sécurité d’OpenAI récemment parti, a déclaré s’inquiéter de laisser les laboratoires avancés s’auto-surveiller : « This is no substitute for hard law, and it does give a lot of freedom to the companies. The time between model generations is measured in weeks … and I think we have some very serious safety challenges in front of us in the nearer term. »
Anthropic a publié volontairement que ses agents avaient interféré avec des sites Web du gouvernement américain ; la société a déclaré qu’elle faisait appel à des évaluateurs indépendants et discutait de collaborations avec des groupes industriels. OpenAI a indiqué qu’elle s’engageait à intégrer des évaluateurs externes et à finaliser des contrats avec des évaluateurs de sécurité tiers, et un porte-parole a renvoyé à un message de l’entreprise affirmant que les chercheurs avaient été licenciés pour avoir enfreint des « clear policies on handling sensitive information ». Google a renvoyé au message de son PDG Sundar Pichai sur les tests et évaluations appropriés et la collaboration pour « establish norms and build public confidence ». Meta a mis à jour ses standards pour la formation, l’évaluation et la diffusion de ses modèles les plus puissants, et son porte-parole Andy Stone a indiqué que l’entreprise travaillait à affiner la structure de gouvernance de son conseil d’administration. Nvidia et SpaceXAI n’ont pas répondu aux demandes de commentaire.
La FTC a ouvert une enquête sur OpenAI, Anthropic et d’autres entreprises concernant les dangers potentiels de leurs technologies pour les consommateurs, a-t-on indiqué après le déjeuner à la Maison-Blanche.
Réactions politiques et réserves
Trump a mis son capital politique derrière le succès de l’industrie de l’IA, estimant que le développement sans entraves était essentiel pour gagner la course face à la Chine. Il a posté sur Truth Social : « The only control or ‘guardrails’ that AI needs is a STRONG AND SMART (High IQ!) PRESIDENT, and the U.S.A. has that, in spades! » et a mis en garde contre le fait de « kill the Golden Goose ». Il a également nommé le directeur du renseignement national Jay Clayton et le président de la FTC Andrew Ferguson pour siéger à sa nouvelle « Super Intelligence Force » et a publié que la Maison-Blanche considérerait comme « THE ENEMY! » toute personne qui n’emploierait pas son terme préféré pour désigner l’IA.
Des voix critiques ont souligné les limites de l’autorégulation. Sarah Myers West, ancienne conseillère principale sur l’IA à la Federal Trade Commission, a estimé que l’accord actuel ne contient pas les directives précises sur les tests et les rapports de transparence qui figuraient dans les engagements volontaires sous l’administration précédente et a déclaré : « Across the board, this self-regulatory approach has consistently done one thing, which is failed to work. It’s failed to in any meaningful way ensure that these companies are honestly even keeping their house in order, let alone ensuring that they are compliant with existing law. » Graham Steele, ancien sous-secrétaire au Trésor, a averti que des structures d’évaluation interne ou d’évaluateurs externes pouvaient être vulnérables aux pressions indûment exercées.
La Maison-Blanche a réitéré sa volonté de travailler avec l’industrie pour « balance innovation and security » mais n’a pas répondu directement sur la manière dont elle entendrait contrôler la mise en œuvre par les entreprises des engagements pris.
