(Le roman de l’IA, chapitre 3)

« Le Vatican, combien de divisions ? » ironisait lourdement Staline, pour affirmer contre l’esprit et les forces morales la supériorité d’une violence nue. L’encyclique que vient de publier Léon XIV, Magnifica Humanitas, Sur la protection de la personne humaine à l’ère de l’intelligence artificielle, retrace à sa manière plusieurs partages nécessaires, devenus difficiles à penser, entre le mécanique et le vivant, entre la simulation et une présence authentique, entre le robot et la personne, entre le calcul et ce qui mérite d’être nommé véritablement esprit… Cette dernière entité, inséparable de la valeur et de la grandeur de notre humanité, s’adosse ici à l’Esprit saint censé inspirer une encyclique pontificale. Je ne suis pas entré dans ce texte copieux, et exigeant à lire (250 pages) sans réticences ; au moment où l’on annonce les étapes de la proche visite de Léon XIV en France, et les records d’affluence qu’elle suscite, je me demande combien, parmi les innombrables spectateurs de l’événement, auront pris connaissance de cette parole, l’auront perçue ou méditée. 

Face aux annonces, souvent tonitruantes, du post ou du transhumanisme d’augmenter notre humanité, et l’IA se présente comme le levier par excellence de cette augmentation, le pape s’attache à cerner ce qui fait la grandeur de cette humanité, « magnifica humanitas » indépendamment des prothèses ou des appareils riches de promesses grandioses, mais qui alimentent surtout notre ubris, notre penchant à la démesure. Quelle est la juste mesure de l’homme ? Que voulons-nous construire, par quels moyens, à quelles fins ? Que serait, pour nous, une vie remplie ou accomplie ? 

Aux prouesses ou promesses technologiques dont l’IA nous abreuve, et qui à juste titre nous fascinent, Léon XIV oppose un discours nourri des Evangiles et de la doctrine sociale de l’Eglise, inaugurée par l’encyclique progressiste Rerum novarum de son modèle (et inspirateur) Léon XIII ; il passe du même coup en revue et recueille les déclarations de ses prédécesseurs Pie XII, Paul VI, Jean XXIII, Jean-Paul II, Benoît XVI ou François, tous convoqués et cités avec une pieuse reconnaissance. Je me disais, lisant cette accumulation de références et tous ces éléments de doctrine, que ce discours pontifical relevait du wishfull thinking, d’une pensée certes louable mais bien peu efficace, et quelque peu éthérée, que pèsent ces vertueuses déclarations face aux sordides réalités de, disons, Betharam – que le pape ne cite pas explicitement mais pour lesquelles il « demande sincèrement pardon » (page 183) ? 

En bref, ma première impression de lecteur était d’un léger agacement devant cette rhétorique morale, et ces rappels d’un credo ou d’un dogme pour moi inacceptables, l’homme créé à l’image de Dieu, la résurrection du Christ, et autres articles de même farine… Je me persuadais pourtant, au fil de ma lecture poursuivie jusqu’au bout, que j’avais tort et qu’au fond le pape était dans son rôle. Qu’opposer en effet au matérialisme, au consumérisme, à l’individualisme qui de partout nous cernent et montent en puissance, quelles ressources morales mettre en œuvre, que notre monde réclame mais qu’il demeure à l’évidence impuissant à imaginer, et à promouvoir ? Le salut, ou du moins un point d’équilibre dans notre course en avant, ne peut venir que d’un retour amont, du souvenir (pour moi) d’anciennes maximes tirées de mes années de catéchisme, « au filigrane bleu de l’âme se greffant » (comme écrit si bien Mallarmé). 

Notre nouveau monde ne peut tout-à-fait nier l’ancien, l’Evangile n’est pas démenti par l’IA, que notre humanité (aux deux sens de ce mot) n’a pas attendue pour grandir, et pleinement s’épanouir. La religion sans doute m’égare ou m’entortille dans un fatras de fables, mais les fables ressassées par Elon Musk et les prophètes d’un brave new world numérique et glacé ne sont pas plus séduisantes, et qu’opposer à ces fables sinon d’autres fables ? Léon XIV me parle donc, et me touche, quand il relève les dangers du monde qui vient, et qu’il esquisse les linéaments d’un autre Royaume.

Le premier danger est de se méprendre sur ce qu’on appelle augmenter : l’humanité ne doit être ni dépassée, ni remplacée ; elle est blessée sans doute, mais cette finitude est constitutive de notre existence, et c’est en la cultivant que nous nous ouvrons à l’empathie, aux relations proprement humaines, en un mot (qui revient souvent dans l’encyclique pour pointer un certain propre de l’homme) à l’amour. Une vision sèchement technique, comptable ou à courte vue de notre développement ne constitue pas un progrès mais une mutilation. Avoir plus n’équivaut pas à être plus, et notre fascination pour les performances machiniques ne saurait nous faire oublier les déficits de cette intelligence inhumaine : ne perdons jamais de vue que les prétendues IA « ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale, elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences », en bref « elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage » (page 109). Très précieuse pour débrouiller tel ou tel problème, monter un dossier ou répondre à une requête touchant telle connaissance, l’IA n’apporte pas de vision élargie qui développe notre humanité, et l’on hésitera donc avant de lui confier les clés de notre Maison commune.

Pas plus que nos autres outils, l’IA n’est moralement neutre. Ivan Illich avait pointé la façon dont nos équipements techniques, après une première période de rendement positif, se retournent en entraves et peuvent se révèler contre-productifs ; Jacques Derrida avait, sur le cas particulier mais paradigmatique de l’écriture, dégagé la notion de pharmakon, toujours ambivalent : tout remède ou supplément apporté à notre incomplétude pouvant se retourner en poison… La dernière née et la plus spectaculaire de nos prothèses ne peut que vérifier cette loi, l’IA porte en elle le bien et le mal, notre salut et notre perdition !

Un autre fil directeur de ce texte tourne autour de la construction. Léon XIV distingue fermement deux façons de construire, la tour de Babel gtandiose mais inhumaine, stigmatisée comme emblème de notre ubris, et la reconstruction du temple de Jérusalem par Néhémie, qui consulte les habitants, qui rétablit les liens avant de poser les pierres, qui fait de cet ouvrage celui d’un collectif éclairé, et le miroir d’une communauté. Notre véritable intelligence ne se conçoit ni ne se réalise d’en haut, elle consulte, elle tisse d’abord des liens, et elle respecte tout un héritage, qu’on dira de l’ordre non d’un artefact techniquie mais d’abord d’un don (page 102). La suite du texte associera ce don, primordial, aux ressources prodiguées par la nature en nous et hors de nous ; l’être humain est une créature « insérée dans un réseau de relations avec les autres êtres vivants et avec la création tout entière » (page 238) ; notre humanité ne peut donc resplendir que restituée à son cadre écologique, un cadre où la présence physique reste déterminante, comme celui de la table partagée (page 240) – je relève en passant ce souci du don, de l’écologie, de la table…, pour rendre palpable la proximité de notre Manifeste convivialiste (que le pape n’a pas lu) avec les thèmes et les images qui structurent son encyclique.

Il n’y a pas de fatalité inscrite ab ovo dans l’outil technique, et nos usages de l’IA peuvent engendrer le meilleur comme le pire. Il est prudent toutefois de souligner la connivence du monde numérique avec toutes formes de déliaisons, avec les logiques de l’efficacité, du contrôle et du profit qui entraînent ses opérateurs à considérer l’autre comme un moyen plutôt qu’une fin, et à faire de la puissance de calcul l’enjeu d’une concurrence toujours plus effrénée. Que vaut dans ce contexte l’idée fixe ou le projet central du pape, « Je voudrais enfin employer un mot qui me tient à cœur : ‘désarmer’. Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. C’est la course à l’algorithme le plus performant et à la banque de données la plus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres » (page 119). Désarmer l’IA ? L’orienter fermement vers la paix ? Alors que toute notre histoire (et notamment l’enrôlement des savants au XX° siècle) montre l’intrication des sciences avec l’art de la guerre ! Comment jamais délier ce nœud gordien ou cette boucle fatale entre nos connaissances et nos armes de combat ? Entre la recherche (qui est par elle-même une dure compétition) et les attentes du complexe militaro-industriel ? L’image primordiale dont nous sommes partis du singe découvrant  l’outil (le prologue de 2001 L’Odyssée de l’espace, chapitre 1) ne dissocie pas celui-ci de l’arme ou la massue, aussitôt retournée contre ses congénères… Que voyons-nous d’ailleurs aujourd’hui, au plan géopolitique le plus large ? D’anciennes nations enlisées dans une guerre d’un autre âge (la Russie contre l’Ukraine soutenue par ses alliées européens), tandis que les Etats-Unis et la Chine s’activent sur une autre scène, autrement profitable, en construisant chacun de leur côté l’IA la plus performante possible… Ce qui équivaut strictement à relancer, et renforcer, la séculaire course aux armements.

Cette encyclique soulèvera bien des réserves, on accusera le pape d’idéalisme, ou de naïveté, sur quantité de points. Il y désigne pourtant avec lucidité la plupart des périls qui nous assaillent aujourd’hui, parfois repeints par nos ennemis aux riantes couleurs du progrès, ou d’un avenir radieux. Léon XIV y débusque la fraude, la jactance, la négligence qui défigurent notre commune humanité, et menacent non d’augmenter mais de diminuer, ou de gravement entraver la création par chacun de sa propre personne. Il faut donc saluer dans ce livre prudent, méthodique, parfois ressassant, une digue salutaire opposée à la foule des nouveaux dangers qui nous menacent avec l’IA – deux petites lettres pour résumer ce que nous ne parvenons pas clairement à nommer. 

(à suivre)