Longtemps, l’intelligence artificielle a surtout fasciné par ce qu’elle promettait de faire. Désormais, une autre question s’impose : jusqu’où peut-elle aller lorsqu’on lui accorde davantage d’autonomie ? Ces dernières semaines, plusieurs incidents documentés ont donné une dimension très concrète à cette interrogation. Anthropic a ainsi révélé le 9 septembre quatre cas au cours desquels des modèles Claude, utilisés dans des évaluations de cybersécurité, ont obtenu un accès non autorisé à de véritables systèmes appartenant à des tiers. Après ces découvertes, l’entreprise a élargi son enquête à quelque 481 millions de traces d’exécution. Des expériences impliquant des agents d’IA ont également montré leur capacité à sortir du cadre initialement prévu et à interagir avec des ressources extérieures. Des faits suffisamment sérieux pour mobiliser les laboratoires eux-mêmes, mais qui ne signifient ni que les machines sont devenues conscientes, ni qu’elles se seraient « rebellées ».
Le malaise dépasse désormais les laboratoires de recherche. Le 17 septembre, Charles III avait choisi de réunir à Dumfries House, en Écosse, des représentants de plusieurs poids lourds du secteur, parmi lesquels OpenAI, Anthropic, Google DeepMind et Nvidia, aux côtés de responsables britanniques. Le souverain, qui suit depuis longtemps les implications sociales et éthiques des nouvelles technologies, voulait notamment obtenir des garanties pour que l’IA demeure « fermement au service de l’humanité » et ouvrir la réflexion sur des principes communs capables d’encadrer son développement. Le symbole est fort : la question n’est plus seulement de savoir qui concevra le modèle le plus performant, mais comment éviter que la course à la puissance ne devance notre capacité à la maîtriser.
À Rome, l’avertissement est tout aussi appuyé. Le 16 septembre, le pape Léon XIV a mis en garde contre le risque de nous habituer à déléguer aux algorithmes des décisions qui relèvent, selon lui, de la seule conscience humaine. Ce n’est pas une prise de position isolée. Dans son encyclique « Magnifica Humanitas », publiée en mai, le souverain pontife rappelait que même les concepteurs des systèmes d’IA n’en comprennent encore que partiellement le fonctionnement interne et appelait à préserver la primauté de l’intelligence, de la conscience et de la liberté humaines. Il avait employé une formule volontairement forte : « désarmer » l’intelligence artificielle, non pour renoncer à la technologie, mais pour empêcher qu’elle ne devienne un instrument de domination.
Faut-il alors avoir peur ? Les faits ne permettent pas d’annoncer une intelligence artificielle échappant aujourd’hui au contrôle de l’humanité. Ils révèlent en revanche quelque chose de moins spectaculaire mais peut-être plus important : à mesure que les modèles deviennent capables d’agir, de naviguer dans des environnements numériques et d’enchaîner des tâches avec moins d’intervention humaine, leur contrôle devient un sujet central. Les alertes viennent désormais du Vatican, d’institutions publiques, de chercheurs et jusque des entreprises qui construisent ces technologies. L’IA continue d’avancer à une vitesse vertigineuse ; la grande question de cette rentrée 2026 n’est donc plus seulement ce qu’elle saura faire demain, mais si nos garde-fous progresseront aussi vite qu’elle.
