Par Francis X. Maier
Les lecteurs amateurs d’histoire se souviennent peut-être du cas du Millennium Challenge 2002 (MC02). Pour ceux qui ne s’en souviennent pas : il s’agissait d’une simulation militaire de haut niveau réalisée il y a une vingtaine d’années par le Commandement des Forces conjointes des États-Unis, aujourd’hui disparu. Présentée comme « la clé de la transformation militaire », elle a coûté environ 250 millions de dollars, une somme énorme pour ce genre d’exercice à l’époque. Le scénario de l’exercice était un conflit armé avec un État rebelle du golfe Persique.
L’équipe bleue était une force américaine combinée qui testait le concept de RDO, les « Opérations Rapides et Décisives ». Elle reposait sur la doctrine de la « guerre centrée sur les réseaux » et bénéficiait du soutien d’un large éventail de technologies de l’information, d’outils analytiques et de capteurs électroniques.
L’équipe rouge, les méchants, était en grande partie l’œuvre d’un seul homme : un lieutenant général à la retraite du Corps des Marines, Paul Van Riper. Il a bénéficié d’une totale liberté pour diriger son camp dans le conflit.
Le jeu de guerre a commencé, et l’équipe rouge a rapidement coulé un porte-avions, plusieurs croiseurs et une grande partie de la flotte bleue grâce à des attaques en essaim de basse technologie. Au cours des deux premiers jours de l’exercice, elle a tué des milliers de militaires américains simulés. De plus, elle a échappé à plusieurs reprises à la surveillance de l’équipe bleue grâce à des tactiques non conventionnelles et imprévisibles, en exploitant les vulnérabilités techniques de l’équipe bleue.
L’équipe rouge a si bien réussi que la simulation a été interrompue, relancée et, selon un Van Riper très public et très en colère, contrainte de s’adapter à un cadre et à un dénouement projetés par ordinateur qui favorisaient l’équipe bleue.
Les militaires ont contesté certaines parties du récit de Van Riper, mais le MC02 reste une honte durable et une leçon sur le coût de notre dépendance à la technologie. Pire encore, c’est une leçon à moitié apprise. Aujourd’hui, 24 ans plus tard, nos technologies, et tout particulièrement l’IA, sont beaucoup plus sophistiquées, puissantes et précises. Elles sont aussi plus coûteuses. Et elles présentent toujours des vulnérabilités techniques. Elles peuvent causer bien plus de dégâts en temps de guerre. Mais elles ne peuvent pas, à elles seules, détruire un adversaire déterminé et de basse technologie, aussi malveillant que soit l’ennemi et aussi méritée que soit la punition.
L’Iran est la preuve numéro un.
L’armement de haute technologie, aussi « intelligent » soit-il, ne remplace jamais un commandement humain mûr et moralement formé. Il est vrai que tuer un ennemi à distance renforce sa propre sécurité. Mais cela rend aussi l’acte de tuer plus impersonnel, et la décision de tuer beaucoup plus facile. Que des drones de combat autonomes choisissent leurs propres cibles n’est pas une idée édifiante. Mais cette réalité fait déjà partie du champ de bataille actuel.
La question est la suivante : plus nos outils sont avancés, plus ils deviennent une arme à double tranchant. George Parkin Grant, le grand philosophe chrétien canadien, a souligné que la civilisation nord-américaine est dépendante de la technologie d’une manière unique, qui ressemble à une religion séculière. Cela provient des colons européens du continent et de leurs racines calvinistes, vidées de leur cadre chrétien originel.
En fin de compte, nous sommes un peuple de conquête : la conquête et la reconstruction de la nature, y compris la nature humaine. Cela explique notre génie pour l’innovation et les outils. Mais à mesure que nous utilisons nos outils, ils nous utilisent et nous transforment, et tout finit dans une sorte d’orgueil qui implique l’aveuglement face à la nature, le rejet des limites, le scepticisme envers tout ce qui est « sacré » et l’esclavage au pouvoir de la technique. Il n’est pas nécessaire qu’il en soit ainsi. Nous pouvons choisir autre chose. Mais trop souvent, et trop facilement, nous marchons endormis vers la catastrophe.
Le MC02 nous rappelle le coût de ne pas voir au-delà de nos hypothèses dominées par la technologie, et les conséquences qui en découlent. C’est pourquoi, en ce qui concerne l’intelligence artificielle, si nous ne voulons pas une version réelle de Skynet, nous ne pourrons jamais nous passer d’une prévision humaine rigoureuse ni d’un contrôle humain rigoureux de l’IA, de son développement et de ses applications.
L’IA est là et elle ne va pas disparaître. Comment devons-nous procéder, alors ? L’Écriture nous dit des dizaines de fois « n’ayez pas peur ». Ce n’est pas une suggestion. C’est un mandat. Il y a un Dieu ; Il nous aime, et Il est intimement impliqué dans nos affaires. Des mots comme « apocalypse » et « crise » parsèment notre discours public sur l’intelligence artificielle, et ils ont un effet de coucou qui invite à une peur injustifiée. Mais en grec original, apocalypse signifie simplement « révélation » : la découverte d’un fait ou d’une vérité auparavant cachée. Et « crise » vient du mot grec krinein, qui signifie décider ou juger.
Malgré nos angoisses et les erreurs du passé, il n’y a rien de fatal, de condamné ni d’inévitablement catastrophique dans l’essor de l’IA. L’IA est un outil, un outil très puissant et problématique, mais un outil tout de même. Dieu nous a faits des créatures rationnelles dotées de libre arbitre. Nous ne sommes pas impuissants. Ce qui signifie que nous devons aborder l’IA avec la sagesse de l’expérience et la clarté d’une pensée moralement fidèle.
Si nous procédons ainsi, les effets bénéfiques de l’IA pour la médecine, l’éducation, l’aide aux personnes handicapées et la recherche dans presque tous les domaines seront énormes. Et nous devons le faire avec urgence, car il est probable que l’IA dépasse largement l’impact social, politique, culturel et psychologique de l’imprimerie, de la Révolution industrielle et de toute autre reconfiguration profonde de la vie quotidienne qui l’a précédée. Pensez aux résultats rapportés par La grande transformation, de Karl Polanyi, et Reformations, de Carlos Eire, et multipliez leurs conséquences.
Nous pouvons trouver une consolation (très) modeste dans l’expérience de l’humanité avec la fission nucléaire. Nous avons des armes nucléaires depuis plus de 80 ans sans les avoir utilisées. Et cela, malgré des guerres régionales incessantes et des périodes de rivalité intense entre superpuissances. Bien sûr, nous avions déjà calciné 120 000 personnes à Hiroshima et Nagasaki, et 130 000 autres sont mortes plus tard des blessures subies. Un tel souvenir grave la prudence dans le cerveau. Avec l’IA, nous n’avons pas encore eu d’événement dévastateur semblable. Nous avons encore le temps, bien que pas beaucoup, de nous assurer que nous n’en ayons jamais.
Après tout, les machines ne sont pas humaines, aussi intelligentes qu’elles paraissent et aussi facilement que nous les anthropomorphisons. Les machines ne sont pas humaines, et elles ne pourront jamais l’être. Il y a quelque chose de précieux et d’absolument unique dans la nature de la créature humaine. Nous devons nous en souvenir, l’affirmer et la défendre, même contre nous-mêmes, contre nos outils et contre nos fantasmes de devenir, d’une certaine manière, de petits dieux.
À propos de l’auteur
Francis X. Maier est chercheur senior en études catholiques au Ethics and Public Policy Center. Il est l’auteur de True Confessions: Voices of Faith from a Life in the Church.