Par Robert J. Kurland
Chaque jour, nous tombons sur des articles qui mettent en garde contre les dangers futurs de l’IA. Mais est-ce vraiment le machine learning la menace ? Non. Comme l’a averti le psychiatre Karl Stern il y a 71 ans dans “The Third Revolution”, le problème central est que les élites intellectuelles embrassent le matérialisme depuis plus d’un siècle : le scientisme über alles.
Stern, un psychiatre juif qui a fui l’Allemagne nazie et s’est converti au catholicisme, a diagnostiqué cette illusion avec une clarté prophétique. Il a averti que lorsque nous réduisons les personnes à des mécanismes, nous ouvrons la porte à la déshumanisation sous toutes ses formes. Le débat sur l’IA est le dernier chapitre d’une histoire que Stern a vécue de première main : en Allemagne nazie, l’idéologie matérialiste a réduit les êtres humains à des spécimens dans une théorie biologique raciste, ignorant leur humanité.
Stern a identifié l’erreur fondamentale : la science opère légitimement dans le plan matériel et mesurable. Mais quand elle affirme que c’est le seul plan, elle échoue à ses propres termes.
Considérons le célèbre experiment mental de Stern. Imaginons rassembler une équipe de recherche pour étudier la Neuvième Symphonie de Beethoven. Les physiciens analysent les ondes sonores, les intensités et les fréquences ; les psychologues enquêtent sur les traumatismes infantiles de Beethoven et sur la façon dont il a affronté la surdité ; les sociologues examinent son choix du “Ode à la Joie” de Schiller dans le climat politique post-napoléonien ; les neurologues utilisent l’imagerie par résonance magnétique fonctionnelle pour cartographier quelles régions cérébrales sont stimulées lorsque les sujets écoutent le mouvement choral.
Et pourtant, comme l’observe Stern, “aussi nombreux que soient les données que notre équipe scientifique recueillerait, elle ne pourrait ‘expliquer’ un seul compas de l’expérience musicale que nous appelons la Neuvième Symphonie.” Le problème n’est pas le manque de données. Le problème est catégoriel : l’expérience esthétique, le sens et la beauté existent dans un plan auquel la mesure scientifique ne peut accéder.
Ce n’est pas un échec de la science. La science ne peut englober toute la réalité. Comme l’a écrit Stern, “l’amour et la haine, la joie et le deuil ne peuvent être quantifiés.” Vous pouvez cartographier chaque neurone, mesurer chaque hormone, suivre chaque impulsion électrique, et pourtant ne pas expliquer pourquoi on aime un enfant prodigue.
La même limitation apparaît dans tous les domaines qui comptent le plus dans la vie humaine. La science peut cartographier les processus neurologiques lors d’une décision morale, mais elle ne peut fonder l’obligation morale elle-même. Pourquoi devrions-nous nous sacrifier pour les autres si nous ne sommes que des collections d’atomes soumis à des lois physiques ?
Au fond, la science ne peut répondre aux questions de “pourquoi” sur le but et le sens. Elle excelle à décrire les mécanismes — c’est-à-dire, comment les choses fonctionnent —. Mais elle ne peut aborder les questions téléologiques : pourquoi les choses existent, quel est leur but.
Ce ne sont pas des défauts de la méthode scientifique. Ce sont des limitations inhérentes qui révèlent la véritable nature de la réalité : de multiples plans de l’être, chacun avec son propre mode de connaissance. L’erreur catastrophique du scientisme consiste à affirmer que seul le plan matériel est réel : que si la science ne peut le mesurer, il n’existe pas.
La solution de Stern n’a pas été de rejeter la science, mais de l’assumer comme une compréhension partielle de la réalité. La tradition intellectuelle catholique, appuyée sur Aristote et saint Thomas, a toujours insisté sur ce que Stern appelait “de multiples plans de l’être.” La réalité matérielle opère selon des lois physiques que la science peut étudier. Mais les personnes existent simultanément dans plusieurs plans : corps, âme et esprit unis en une personne, faite à l’image de Dieu.
Si Stern était vivant aujourd’hui, il nous dirait comment sa compréhension de la réalité se rapporte aux dangers potentiels de l’IA. La conscience ne peut être atteinte par des algorithmes — non pas parce que nos ordinateurs ne sont pas assez puissants, mais parce que l’autoconscience appartient à un plan non matériel de la réalité —. Aucune complexité computationnelle ne peut combler la distance entre la syntaxe et le sens.
Pensons à quelque chose d’aussi concret que la récupération des addictions. Un chatbot d’IA pourrait-il servir de parrain dans le programme des 12 Étapes ? Techniquement, il pourrait être programmé avec toutes les phrases appropriées. Mais il ne pourrait jamais être vraiment un parrain, parce que l’accompagnement requiert ce dont l’IA manque radicalement : empathie née de la souffrance partagée, autorité morale fruit de la transformation personnelle, la présence d’un guérisseur blessé qui accompagne un autre. Un parrain doit avoir été brisé et avoir trouvé la grâce : être “Dieu avec une peau.”
Le matérialisme échoue chaque fois qu’il est appliqué aux personnes. Vous ne pouvez pas réduire l’amour à de l’ocytocine, la beauté à des schémas de préférence, l’obligation morale à un avantage évolutif ou la dignité humaine à une fonction biologique. Les personnes sont des âmes incarnées, créées pour la communion avec un Dieu personnel, porteuses de Son image.
Nous devons utiliser l’IA là où elle excelle : comme outil pour analyser les données, automatiser les tâches routinières et résoudre des problèmes computationnels. Mais nous devons empêcher qu’elle envahisse des domaines qui appartiennent aux personnes : l’éducation qui forme le caractère, l’orientation qui guérit les âmes, les relations qui constituent notre humanité.
Et nous devons récupérer le vocabulaire de l’âme. Dans une époque qui réduit les personnes à des cerveaux, la conscience au traitement de l’information et l’amour à de la neurochimie, nous avons besoin de reparler des réalités spirituelles : d’âmes créées pour l’éternité, de fins transcendantes, de communion avec le divin. Non comme de la poésie ou une métaphore, mais comme la vérité la plus fondamentale sur ce que nous sommes.
Karl Stern a fui un régime matérialiste qui a réduit les personnes à des spécimens et a vécu pour voir d’autres embrasser la même philosophie sous des formes différentes. La panique face à l’IA n’est que la dernière manifestation de l’illusion qu’il a diagnostiquée : que les personnes sont des mécanismes, que la conscience est de la computation, que la science suffit.
Elle ne suffit pas. Elle n’a jamais suffi. Et tant que nous ne récupérerons pas ce que Stern savait — que les personnes existent dans de multiples plans et que le matérialisme détruit la dignité humaine — nous continuerons à construire de meilleurs outils tout en perdant notre humanité.
À propos de l’auteur
Bob Kurland est un vieux physicien retraité (BS Caltech — avec mention, 1951 ; MA, PhD Harvard, 1953, 1956). En 1995, il s’est converti au catholicisme. Il écrit “non pas tant pour discourir avec autorité sur des sujets que je connais, mais pour les connaître mieux en discourant dévotement sur eux.” (Saint Augustin, La Trinité 1,8).