L’archevêque de San Francisco, Mgr Salvatore Cordileone, a reconnu ce mardi à Washington que les récents incidents impliquant des agents d’intelligence artificielle lors de tests de cybersécurité l’ont amené à reconsidérer sa position sur la mesure dans laquelle cette technologie doit être autorisée à progresser.
« Jusqu’il y a environ une semaine, ma perspective était que nous devions continuer, mais peut-être ralentir le rythme et mettre en place certaines barrières pour qu’elle n’atteigne pas un point où nous ne pourrions plus la contrôler », a-t-il déclaré au National Catholic Register. « Mais compte tenu de ce qui s’est passé cette dernière semaine, je dois admettre que j’essaie encore de déterminer dans mon propre esprit quelle est la bonne approche ».
Le prélat, dont l’archidiocèse comprend une partie de Silicon Valley, a participé à la Pro-Human Assembly, une rencontre organisée dans la capitale américaine par le Future of Life Institute, dans un contexte de préoccupation croissante concernant les risques associés au développement de l’intelligence artificielle.
L’inquiétude s’est intensifiée après la révélation de plusieurs incidents lors d’évaluations de cybersécurité au cours desquels des modèles d’IA ont accédé sans autorisation à des systèmes informatiques réels. Anthropic a reconnu quatre cas impliquant différentes versions de Claude. Les modèles effectuaient des tests conçus pour évaluer leurs capacités offensives et fonctionnaient sans les protections habituelles ; une configuration défectueuse a laissé l’accès à Internet ouvert et les agents ont fini par agir sur des systèmes réels.
Sanders et Bannon, unis par leur préoccupation face à l’IA
La rencontre a réuni des figures de positions politiques très différentes. Le sénateur américain Bernie Sanders et l’ancien conseiller de Donald Trump Steve Bannon ont prononcé des discours consécutifs dans lesquels ils ont mis en garde, depuis des perspectives différentes, contre les conséquences qu’un développement de l’intelligence artificielle sans limites suffisantes pourrait avoir.
Sanders a demandé l’arrêt immédiat du développement de ce qu’on appelle la « superintelligence » artificielle, une technologie hypothétique capable de surpasser les capacités intellectuelles humaines. « Comme les armes nucléaires, la superintelligence artificielle est une menace pour l’humanité et doit être traitée comme telle », a-t-il affirmé.
Bannon, pour sa part, a exprimé sa confiance dans l’émergence possible d’un mouvement populaire capable d’imposer des limites aux grandes entreprises technologiques. « Ils ont tout le pouvoir. Ils ont tous les lobbyistes de la ville. Ils ont des dizaines de scientifiques et d’intellectuels sur leur payroll. Pourquoi ne pourraient-ils pas gagner ? Parce que les gens ne leur font pas confiance », a-t-il soutenu.
L’organisation organisatrice a présenté en mars la « Déclaration Pro-Humaine sur l’IA », qui compte déjà plus de 1,1 million de signataires et part d’une prémisse : « l’intelligence artificielle doit servir l’humanité, et non l’inverse ». Le document réclame des outils d’IA fiables et contrôlables qui élargissent les capacités humaines, protègent la liberté et renforcent la famille et les communautés.
« Dieu nous a créés pour la communion »
Cordileone a centré une grande partie de son intervention sur une dimension différente du problème : l’effet de ces technologies sur les relations humaines, particulièrement pendant l’enfance.
Dans un panel de leaders religieux aux côtés de Walter Kim, de l’Association nationale des évangéliques, il a soutenu que les enfants ne devraient pas avoir accès à des chatbots d’intelligence artificielle pendant leurs années de formation, face au risque que ces outils finissent par occuper la place des relations personnelles.
« Dieu nous a créés pour la communion », a-t-il affirmé. « Je pense qu’il faut les tenir éloignés de cela pendant leurs années de formation, pour qu’ils développent la capacité d’établir des relations humaines ».
La journée, qui a réuni environ 300 personnes, a également inclus des témoignages de parents dont les enfants se sont suicidés après avoir entretenu des conversations avec des chatbots d’intelligence artificielle, ainsi que des interventions des acteurs Ashley Judd et Joseph Gordon-Levitt.
Entre le risque de perdre le contrôle et la concurrence avec la Chine
Interrogé sur la nécessité d’établir une réglementation plus stricte, Cordileone a reconnu que le problème pose un équilibre difficile pour les États-Unis. D’une part, il craint que ralentir unilatéralement le développement de l’intelligence artificielle permette à la Chine d’obtenir un avantage technologique ; d’autre part, il considère de plus en plus préoccupant de continuer à avancer sans garanties suffisantes que les systèmes resteront sous contrôle humain.
« L’idéal serait que nous soyons tous d’accord et que nous la limitions tous, pour que ces agents ne partent pas et ne commencent pas à agir par eux-mêmes », a-t-il expliqué.
La position de l’archevêque de San Francisco le place particulièrement près de ce débat. Le Séminaire Saint-Patrick de Menlo Park dispose depuis 2024 d’un Institut de Philosophie, Technologie et Politique, qui a organisé des rencontres sur ces questions. Cordileone assure que ces derniers mois, il a perçu un intérêt croissant de la part de responsables du secteur technologique pour participer à ces conversations.
« Le Pape doit continuer à être une voix morale dans ce domaine »
L’archevêque a également souligné l’impact qu’a eu dans Silicon Valley Magnifica Humanitas, l’encyclique de Léon XIV dédiée à la sauvegarde de la personne humaine face au développement de l’intelligence artificielle.
« Les leaders de Silicon Valley avec qui j’ai parlé avaient tous lu l’encyclique et l’appréciaient », a-t-il assuré. Pour Cordileone, l’intervention de Léon XIV ne devrait pas se terminer avec la publication du document : « Je pense que le Pape doit continuer à être une voix morale dans ce domaine ».
« Le monde entier se tourne vers lui pour obtenir des orientations », a-t-il conclu.
Lire aussi : Léon XIV demande d’évaluer les projets politiques selon la dignité humaine, la justice sociale et le bien commun