Mario Nawfal a relayé que Garrison Lovely a raconté qu’à une récente conférence sur l’IA, l’élément le plus inquiétant n’était pas une prédiction mais l’atmosphère dans la salle.
Un cadre senior d’une des principales entreprises d’IA a déclaré s’attendre à ce que l’IA avancée concentre un pouvoir énorme soit au sein des entreprises qui la développent, soit entre les mains de dirigeants politiques qui la contrôlent. Ce propos venait d’une personne travaillant sur les capacités, et non d’un spécialiste de la sécurité de l’IA.
IA avancée : tensions internes et absence de solution claire
Le constat le plus sombre de Lovely a été résumé ainsi : « Il n’y a pas d’adultes dans la pièce. » Il rapporte que même des personnes travaillant directement sur l’alignement reconnaissent ne pas avoir de solution claire pour contrôler des systèmes bien plus intelligents que nous.
Lovely est ressorti convaincu que la peur existant à l’intérieur de ces entreprises est réelle — ce n’est pas du marketing ni du battage médiatique, mais une inquiétude exprimée par les personnes qui construisent ces systèmes.
