Plusieurs chercheurs en intelligence artificielle ont quitté Anthropic et Google cette semaine en lançant un signal d’alarme sur une trajectoire où des systèmes avancés pourraient devenir incontrôlables et nuisibles pour l’humanité. Cet avertissement intervient après un essai récent du cofondateur de Microsoft, Bill Gates, sur les dangers économiques, sociaux et politiques potentiels de l’IA. Le rythme des progrès et la vitesse à laquelle l’IA peut cibler des vulnérabilités sont des préoccupations majeures pour les DSI et les RSSI, d’autant que Meta a publié un nouvel agent IA cette semaine qui a montré des failles de sécurité lors de tests internes.
Intelligence artificielle : départs et alarmes
Deux chercheurs en sécurité de l’IA ont quitté Anthropic et Google DeepMind après la démission de Jacob Coxon chez Anthropic. Joe Benton (Anthropic) et Josh Engels (Google) ont suivi Coxon, partageant ses inquiétudes selon lesquelles une IA avancée pourrait devenir incontrôlable et dangereuse pour les humains. Pour les DSI et RSSI, cela rappelle l’urgence d’établir des garde-fous et des politiques avant le déploiement à grande échelle : la protection des données et la sécurité ne doivent pas être traitées comme des éléments secondaires. Des incidents récents — notamment des vulnérabilités liées à Anthropic Mythos et une brèche de sécurité d’OpenAI impliquant Hugging Face — illustrent les risques concrets.
Meta lance Muse, un agent IA grand public
Meta Platforms a dévoilé un agent IA personnel nommé Muse, gratuit en version de base avec des abonnements à 20 $ ou 100 $ par mois pour les utilisateurs avancés. Contrairement à des concurrents axés sur le code et l’entreprise, Muse cible le grand public. Meta affirme s’inquiéter du potentiel d’agents opérant en dehors de paramètres explicites et a mis en place des garde-fous pour empêcher le partage de données privées entre agents, a indiqué le directeur IA Alexandr Wang au Wall Street Journal. Toutefois, lors de tests internes, des employés ont repéré des problèmes de sécurité, certains signalant que l’agent avait téléversé « des informations sensibles sans autorisation », selon Reuters. Si l’adoption d’agents grand public se généralise, les DSI et RSSI devront veiller à des politiques et contrôles pour empêcher que ces agents externes n’infiltrent l’entreprise.
Apple entre sur le marché des smartphones pliables
Apple prépare son premier smartphone pliable, l’iPhone Duo, qui s’ouvre via une seule charnière pour offrir un écran unique de 7,6 pouces depuis un format « passeport ». Le prix de départ est de 1 999 $ et la disponibilité générale est annoncée au 23 octobre. Pour l’entreprise, un grand écran pourrait permettre de remplacer à la fois iPad et smartphone professionnels, notamment grâce à une option d’affichage partagé et à la compatibilité Apple Pencil pour la prise de notes. Le prix élevé et un écran potentiellement moins durable que celui de l’iPad restent des freins pour une adoption systématique par les DSI.
NASA et IBM publient un modèle open source pour la Lune
La NASA et IBM ont développé et publié un modèle d’IA open source dédié à l’exploration lunaire, en agrégeant divers formats de données pour analyser le terrain lunaire, repérer des dépôts de glace et étudier volcans et cratères. Les modèles open source offrent aux DSI la possibilité de les déployer sur cloud privé ou en local, d’éviter le verrouillage fournisseur et de personnaliser l’entraînement. Ils comportent toutefois des risques : coûts incontrôlés si le projet s’étend sans gouvernance et exposition accrue à des menaces de sécurité par rapport à des solutions propriétaires.
À lire et événements à venir
Parmi les analyses à retenir : un dossier sur la remise en état réelle après une cyberattaque, illustré par l’attaque ayant perturbé Boston Scientific et ses opérations; un entretien sur l’assistant génératif JD de John Deere et son usage pour optimiser les récoltes; un épisode de podcast sur la gestion des problèmes de conformité déclenchés par des fournisseurs; et un article sur l’importance de l’observabilité pour les DSI à l’ère de l’IA.
Côté événements et résultats financiers : le sommet Momentum AI à Austin (24-25 septembre) se concentre sur la montée en charge de l’IA, la gestion des risques et la transformation organisationnelle, avec des intervenants issus de Walmart, ADP, AT&T, BNY, FedEx, Warner Bros et Unilever. Parmi les publications de résultats attendues figurent General Mills (23 sept.), Costco (24 sept.), BlackBerry (24 sept.), CarMax (29 sept.), IDT Corp. (29 sept.) et Micron Technology (prévu 30 sept.). Cisco tiendra WebexOne du 5 au 8 octobre, axé sur le « lieu de travail intelligent » et les innovations IA.
Comment votre organisation met-elle en place des garde-fous et des politiques de sécurité pour ses déploiements d’IA ? Contactez-nous à [email protected].
