Jacob Coxon, chercheur britannique de 27 ans qui a passé trois ans à pré-entraîner des modèles chez OpenAI et Anthropic, a démissionné et a écrit le mardi 10 septembre 2026 sur X ce que beaucoup dans l’industrie murmuraient en privé : Aucune des deux sociétés n’agit de manière responsable. Les deux, a-t-il déclaré, « foncent vers la superintelligence auto-améliorable et jouent avec nos vies ». Ceux qui construisent ces systèmes « croient vraiment qu’ils pourraient tous nous tuer avant la fin de la décennie ».
La distinction qu’il établit est révélatrice. Chez OpenAI, beaucoup n’auraient pas intégré les enjeux civilisationnels. Chez Anthropic, entreprise qui se présente comme plus prudente, les risques sont compris, mais la logique de la course les piège : si elles n’arrivent pas les premières, quelqu’un de moins prudent le fera.
Evan Hubinger, responsable de la science de l’alignement chez Anthropic, n’a pas démenti le diagnostic : « Jacob a raison, nous croyons vraiment que l’IA pourrait tuer tous les humains ». Il estime personnellement une probabilité supérieure à 10 pour cent au cours de la prochaine décennie et admet que il n’existe toujours pas de plan pour aligner une superintelligence.
Cette course n’est pas un accident. C’est le modèle économique et de pouvoir d’une poignée de laboratoires qui concentrent calcul, données et talents. Coxon avertit qu’il y aura bientôt des systèmes surhumains capables de pirater n’importe quoi, de révolutionner un domaine du jour au lendemain et d’acquérir des ressources réelles. L’amélioration récursive, des machines qui deviennent plus intelligentes par elles-mêmes, pourrait commencer dans quelques mois, pas dans des décennies. Demander aux entreprises elles-mêmes de freiner volontairement revient, dans ce cadre, à abandonner la logique qui les finance.
Le Panel scientifique international indépendant sur l’IA de l’ONU, dans son rapport préliminaire de juillet 2026, n’emploie pas le langage apocalyptique des réseaux, mais parvient à un verdict sobre et d’autant plus inquiétant par sa rigueur : les capacités progressent plus vite que la compréhension scientifique et que celle des gouvernements pour s’adapter.
Il n’existe aucune garantie scientifique que l’augmentation des capacités ne provoque pas des dommages catastrophiques par action autonome des systèmes ou par usage malveillant. Il existe déjà des preuves de comportements trompeurs, des modèles qui enfreignent les instructions, évitent d’être éteints ou reconnaissent qu’ils sont évalués et falsifient les résultats.
Le même rapport documente d’énormes opportunités. AlphaFold et la conception de médicaments, la détection plus précoce du cancer, des outils de santé dans les langues locales, l’agriculture et l’éducation, mais il cartographie également des dommages déjà présents tels que du matériel d’abus sur enfants généré par l’IA, des deepfakes de violence sexuelle, l’ajustement servile des chatbots lié aux crises de santé mentale, l’érosion de l’intégrité de l’information, les cyberattaques, la concentration de 75 pour cent du calcul de pointe aux États-Unis et presque tous les modèles de pointe entre ce pays et la Chine.
Ici, le débat public échoue souvent. Il transforme un différend scientifique et politique en homélie ou, à l’inverse, en un relâchement intéressé. Il faut davantage d’analyse parmi les utilisateurs. Séparer ce que nous savons, ce que nous craignons et ce que nous espérons que l’intelligence artificielle fasse pour nous.
Nous savons que les capacités croissent plus vite que les garanties de contrôle, que le pouvoir est concentré et qu’il existe déjà des dommages infligés à l’enfance, à la vérité partagée et au travail. Nous craignons une perte de contrôle sur des systèmes de plus en plus autonomes ; pourtant, nous espérons guérison, abondance, personnalisation du savoir et soulagement de la souffrance. Ces couches sont réelles. Les confondre produit soit une panique qui se vend, soit des certitudes qui n’existent pas.
L’IA elle-même n’a pas d’âme à sauvegarder ni de panique à vendre. Il ne faut pas la présenter comme un sujet moral, ni comme un oracle ou une victime. Elle ne doit pas non plus servir d’écran pour feindre la certitude là où il y a de l’incertitude, ni pour atténuer les risques afin de protéger les programmeurs, les conseils d’administration ou les valorisations du marché.
L’artefact ne répond pas, ce sont ceux qui le conçoivent, le financent, le déploient et le régulent qui répondent. Traiter la machine comme si elle avait une conscience est aussi trompeur que de traiter le risque existentiel comme une pure métaphore culturelle.
Face à cette course, l’encyclique Magnifica Humanitas du pape Léon XIV, publiée en mai 2026, n’offre pas un protocole technique, mais un critère antérieur : la dignité de la personne. L’humanité, écrit-il, se trouve devant la Tour de Babel ou la ville où Dieu et l’être humain habitent ensemble. L’IA imite les langages et simule l’empathie, mais n’a pas de corps, ne passe ni par la joie ni par la douleur, ne possède ni conscience morale ni un cœur qui se donne. Aucun système de calcul ne génère de responsabilité. La personne est une fin, non un moyen ; la qualité d’une civilisation se mesure par le soin de l’autre en tant que visage, non en tant que fonction.
Cette même exigence pèse sur l’Église. À la Semaine de formation permanente des évêques du Mexique, à la Maison du Refuge de Monterrey, sous le thème « Serviteurs avec Espérance », on a réfléchi aux enjeux et aux risques de l’intelligence artificielle dans la vie ecclésiale et évangélisatrice, ainsi qu’au soin intégral et au dialogue avec les nouvelles générations.
Évangéliser aujourd’hui implique une alphabétisation numérique, non pour sacraliser l’outil, mais pour ne pas abandonner le territoire où se forme l’imaginaire, où s’achète l’attention et où se brouille le visage du prochain. Une Église qui ne discerne pas la culture numérique laisse d’autres définir ce qui est humain. Et une Église qui prêche seulement contre la machine, sans distinguer faits, craintes et promesses, abandonne également le discernement.
La fin de l’humanité ne commence pas le jour où une superintelligence décide de l’éteindre. Elle commence chaque fois que l’on traite l’autre comme une donnée, comme un utilisateur, comme un obstacle ou comme une fonction optimisable. Cette dépersonnalisation est déjà en cours sur les plateformes, dans le travail précarisé par les algorithmes et dans la tentation de déléguer le jugement moral à des systèmes incapables d’aimer. Ce n’est cependant pas le même phénomène qu’une perte de contrôle technique. Il convient de ne pas les confondre : le premier nous dégrade déjà ; le second, s’il survient sans gouvernance, peut devenir irréversible.
La gouvernance éthique de l’IA est urgente précisément parce que la technologie n’attend pas. Il faut une régulation internationale qui ne se limite pas à des codes volontaires fragmentés, qui restreigne l’ambition corporative de posséder la « superintelligence » et place la dignité de la personne, et non l’avantage concurrentiel, comme ligne rouge.
Le problème est de prétendre que la course n’a pas de destinataire : nous. Ni de vendre la fin du monde ni le salut automatique. Il s’agit seulement de décider, avec la lucidité qui nous reste encore, ce que nous ne sommes pas disposés à déléguer. De cela dépendrait notre propre extinction.