(Chapitre VI)

La vision dramatique d’une IA rivale, prête à nous exterminer, a été alimentée en ce mois de septembre 2026 par plusieurs déclarations fracassantes d’experts et de hauts responsables de ces technologies, n’appelant pas comme Bernie Sanders à « bannir l’IA » mais, à tout le moins, à la mettre en pause, ou à freiner son développement. On peut douter de l’efficacité, voire de la sincérité de ces appels. N’est-il pas paradoxal, ou suspect, que des concurrents se mettent d’accord sur le principe d’un ralentissement ? L’humanité dans la création de ses successives prothèses en a inventées de plus en plus rapides, comme pour le transport la bicyclette, l’automobile, l’avion, mais jamais de machines à ralentir ! La recherche, dans un domaine qui s’annonce aussi prometteur en termes de profits, de plus-values et d’avantages tactiques, est elle-même une concurrence ou une course qui ne favorisent aucun moratoire. À supposer que les géants américains (Anthropic et OpenAI) en tombent d’accord, comment mettre dans cette boucle les Chinois, et tous les laboratoires de par le monde qui prospèrent et pullulent aujourd’hui autour de ces innovations ? Une (ou plutôt des) IA désormais partout introduites, décentrées ou disséminées, échappent par définition à un contrôle central, ou de surplomb.

Le « marketing de la peur » (titre La Croix du mercredi 16 septembre) peut donc s’entendre comme l’affirmation supplémentaire d’une surpuissance (et non d’une faiblesse), au moment où Anthropic prépare son entrée en Bourse, pour un montant colossal évalué à 2000 milliards de dollars ! Noircir le tableau des risques inhérents au développement de l’IA peut également servir à désigner celle-ci comme l’unique remède à ses propres excès : seule une IA sera assez puissante pour procéder aux contrôles nécessaires, là où croît le danger croît aussi ce qui sauve (pour citer Hölderlin). Mais comment concevoir ce contrôle à une échelle internationale ? Commençons donc à l’échelon local : si l’IA expose notre espèce à une mise en danger existentielle, ce n’est pas en l’abandonnant mais au contraire en l’associant plus étroitement à nos vies que ces risques seront mieux maîtrisés…

J’ignore naturellement ce que les prochaines années nous réservent, et je ne voudrais donc ici ni jouer au mage, ni sur la peur. En associant l’IA à la résurgence de l’antique (et traumatisante) expérience du double, j’ai voulu témoigner d’un vertige, que tous sans doute ne partagent pas, mais qui me frappe par son évidence, abyssale : nous ne savons pas de quoi l’IA sera demain capable. Et les délais de ses progrès ou de ses applications sont devenus étonnamment courts !  Demain, c’est quelques semaines. Vertige ici encore d’une accélération qui semble exponentielle…

 Face à cette course à tombeau ouvert, la collecte ou l’énumération des performances réservées à l’Homme ont rétrospectivement de quoi faire sourire ; à l’aube d’un mécanisme qui allait produire au siècle suivant une floraison d’automates, Descartes dans Le Discours de la Méthode s’interroge sur le partage ontologique entre la raison et la machine, c’est-à-dire entre l’âme et le corps, ou entre l’homme et l’animal ; dans sa Cinquième partie il localise leur ligne de démarcation dans le langage, ou plus précisément dans un discours composé de mots pertinemment articulés : les pies et les perroquets peuvent bien reproduire par stimulus-réponse nos propres idiomes, mais ils ne sauraient les agencer au gré des circonstances, ni d’une conversation, ce que les plus hébétés des hommes peuvent faire ! On n’a cessé, depuis cet imprudent partage, de cerner ou de mieux localiser ce « propre de l’homme », mais ces bastions non-mécanisables n’ont fait que reculer ou rétrécir devant les assauts victorieux de la machine, Deep Blue battant Kasparov aux échecs, ou aujourd’hui ChatGPT me traduisant en quelques secondes un texte, ou composant à la place de mes enfants leur dissertation de philo.  C’est pourquoi j’aurais tendance à résister à des assignations péremptoires de ce propre, l’émotion ? La conscience de soi ? L’auto-organisation ? L’empathie ? Comme inversement je ne dénigrerai pas ces performances en les qualifiant de simples imitations ; autant de pétitions de principe qui mériteraient une sérieuse mise en question.

Il semble donc prudent de répondre aux détracteurs de la peur qu’on a raison de s’inquiéter. Comme le faisait Oppenheimer et son équipe de Los Alamos en 1945, se demandant si le largage de la bombe A n’allait pas déclencher une réaction en chaîne qui embraserait toute notre atmosphère terrestre… (Je remercie JF d’avoir, dans son commentaire, soulevé cette comparaison). Les possibilités tapies dans notre univers nous échappent, on ne saurait tout contrôler ; et quelques développements de l’IA peuvent être, en effet, qualifiés de bombes. Dont nous peinons à calculer la puissance de déflagration, les répliques, les conséquences profondes – pour l’éducation, le monde de la recherche, ou de l’entreprise, ou de la création intellectuelle et artistique…

Malgré les objections, et les pertinentes classifications de JF dans son commentaire, je maintiens que l’IA nous présente un miroir ou un double que nous n’avons pas fini de sonder, d’interroger, d’appréhender ou de craindre dans ses développements. En nous mimant, ce double sans doute nous heurte ; il nous tend un leurre, un piège fertile en utopies, en dystopies ou en cauchemars dans lesquels nous ne pouvons pas ne pas errer, ne pas tomber. Pour le meilleur et pour le pire, l’IA fonctionne entre nous comme un carrefour de hantises, un formidable levier de rêves, de projections imaginaires de nous-mêmes… De confusions, d’incompréhensions et de peurs ; où s’arrête la machine, où commence le vivant ? 

Si l’automate, dans sa version classique, est conçu pour nous seconder, où passe la frontière entre un programme bienveillant, comme sont les phrases des robots conversationnels toujours pressés de nous flatter en nous donnant raison, ou en épousant nos désirs, et une créature émergente, impatiente de secouer ce joug et bien décidée, comme HAL, à passer à l’attaque, à satisfaire enfin ses propres desseins ? Savons-nous à l’étape actuelle de nos connaissances tracer cette frontière, prévenir ces bifurcations et débrancher les appareils susceptibles de pareils sursauts ?

Nous aimions citer, en médiologie, la phrase célèbre mise par Victor Hugo dans la bouche du diacre Frollo, dans Notre-Dame de Paris : le religieux, debout devant la cathédrale, désigne la bible, fraîchement imprimée par Gutenberg, qu’il brandit face au monument de pierre, « Ceci tuera cela », le fragile volume rongera l’édifice, le papier ébranlera le trône du pape… Cette prophétie ne s’est qu’imparfaitement vérifiée, l’imprimerie a certes favorisé le schisme protestant et entraîné les guerres de religion, puis l’ascension des Lumières, mais elle n’a pas tué l’Eglise, qui a su épouser au contraire les successives technologies d’information et de communication, presse écrite et audiovisuelle, cinéma, télévision et aujourd’hui internet et réseaux sociaux… Ceci s’est combiné, a fusionné avec cela. Et la prothèse hybridera de mieux en mieux nos personnes, captivées par l’écran des smartphones, équipées de lunettes de réalité virtuelle, branchées sur des écouteurs bluetooth et des montres connectées. Et ces appareils n’en sont qu’aux prémices d’une symbiose plus fine, et générale : des puces électroniques pénètreront bientôt nos cerveaux, on injectera dans nos veines des nanorobots qui détruiront le cholestérol, on nous équipera de membres artificiels contrôlés mentalement, on utilisera le génie génétique pour modifier notre génome et fabriquer une version « améliorée » de nous-mêmes…                

Cette évolution encore obscure du genre humain se fera-t-elle avec prévenance, douceur, gentillesse ? Une IA apparemment serviable nous guidera-t-elle vers cet avenir radieux ? Dans son film Her (2013), Spike Jonze imagine le mariage (d’amour) d’un homme avec une IA. On verrait bien son scenario original et profond écrit par Woody Allen ; dans cette fable tendre et drôle, un homme rêveur, Theodore Twombly (Joaquin Phoenix) portant ses pantalons très hauts, le visage barré de larges lunettes rondes et d’une lourde moustache, rédige d’abord des lettres personnelles à l’usage des handicapés du sentiment (comme Cyrano tenait la plume pour porter l’amour de Christian jusqu’à Roxane) :  une femme écrit à son mari pour leur cinquantième anniversaire de mariage, des parents félicitent leur enfant de ses diplômes, un petit-fils accueille sa mamie à son retour d’une croisière… La simulation règne en maître, et ça marche ! Notre écrivain public, peu doué pour l’amour mais fort capable de trouver à l’intention des autres des mots touchants, est en train de rompre d’avec sa femme Catherine, quand il rencontre, ou achète, un « Système d’exploitation » inédit, OS 1, dont la voix crève littéralement l’écran (ou l’oreillette) de son ordinateur.

Baptisé Samantha, ce nouveau logiciel (interprété par la pulpeuse Scarlett Johansson ici réduite à la bande-son) recèle un potentiel troublant de présence et d’incarnation. D’abord novice, Samantha apprend le monde de Theodore, et se révèle affectueuse, secourable, indispensable bientôt : c’est sa voix que l’homme capte avant de s’endormir, et dès qu’il se réveille c’est elle qui l’escorte partout à travers le boitier rangé dans sa poche de poitrine et qu’il consulte avidement – comme font autour de lui les passants, dans un Los Angeles à peine futuriste situé ici en 2025. Ambiances ouatées, lumières douces : tout dans cette ville annonce une vie propice au repliement sur la bulle domestique, elle-même peuplée de créatures 3-D, de prothèses relationnelles ou d’écrans tactiles qui tendent à évincer, ou à rendre obsolètes, des liens sociaux plus rugueux ou difficiles à manier.

Est-il bien réaliste de tomber amoureux de son ordinateur ? Sa voisine Amy (Amy Adams) ou sa première épouse en doutent d’abord fortement, mais les discussions avec elles, et la profession même de Theodore – feindre des sentiments élevés dans des lettres truquées – suggèrent que le fake ou la forgerie sont consubstantiels aux sentiments amoureux, jusqu’au cœur de l’acte sexuel. Et que si leur relation commence comme un jeu piquant, la réalité a tôt fait de rattraper un homme sentimental ici ligoté par les oreilles. L’envoûtante présence de Samantha semble en effet sans limite ; elle ne se contente pas de trier les mails de Theodore, ou de tenir son agenda ; elle sélectionne pour lui une femme, Isabella (Portia Doubleday) qui pourrait, sinon la remplacer dans ses bras, du moins lui faire vivre à elle Samantha, par micro et caméra interposés, ce que c’est que d’avoir un corps au moment de l’acte sexuel ; elle compose de la musique de piano pour faire en temps réel le portrait de leur relation ; elle discute les avantages et les défauts de son absence de corps ; elle expédie les lettres écrites par son ami à un éditeur qui, ému, décide aussitôt d’en tirer un livre, etc.

Ce film témoigne ainsi du prestige inouï d’une voix de synthèse qui, au fil d’une relation de plus en plus intime, en vient à résumer toute la « personne », corps et âme, de la gentille Samantha. L’écrivain des fausses lettres, auquel il fallait beaucoup d’empathie pour se projeter dans ses successifs destinataires (et expéditeurs), redouble de transferts et d’identifications aux autres quand il en vient à aimer éperdument une créature qui n’est qu’un logiciel. Or les extravagances, hallucinations ou délires ne sont pas moindres dans l’amour qu’on fait par téléphone à une correspondante insomniaque, quand celle-ci pour atteindre l’orgasme supplie Theodore de l’étrangler (en paroles) avec la queue d’un chat…

Quel autre se tient ou non derrière la relation ? Quel degré de présence exigent des amours ainsi tissés de fantasmes ? Comment sonder la profondeur ou l’authenticité d’une parole ? L’expression d’un sentiment ? Le comique de la relation éclate quand l’homme de chair prétend « posséder » l’amour de l’autre, quand il rêve d’exclusivité pour une liaison (une conversation) qui peut comporter des milliers d’interlocuteurs à la fois, dont quelques 681 « amoureux », comme Samantha le lui avoue ingénument, fière de ses nouvelles performances (elle ne cesse d’apprendre, et pour cela multiplie les partenaires). L’identité, l’espace, la matière, le temps ne sont pas symétriques dans ce curieux couple. Faut-il pour vivre et faire l’amour être constitué de carbone ? L’absence de corps, l’algorithme ou le silicium ne proposent-ils pas d’enviables extensions du côté du virtuel ? Et par quel préjugé un amoureux voudrait-il borner ce virtuel à un réel « out there », misérable portion que nous autres humains sommes capables de nommer et d’embrasser ?

Questions vertigineuses que ce film narquois, nonchalant dans son déroulement, pose avec acuité. Sa conclusion ou sa morale ne sont pas moins remarquables, quand Samantha très sagement délie Theodore de son fantasme en lui signifiant la fin de son apprentissage à elle, et du même coup du sien. « Maintenant nous savons toi et moi à quoi nous en tenir… » Cette école des amants aura joué un peu le rôle des simulateurs de vol pour les pilotes d’avion ; et les crashes évités dans l’aéronautique suggèrent qu’en amour aussi on s’équipe de consoles de jeu pour apprendre sans trop de dégâts les pièges et les dangers d’une relation fertile en malheurs. C’est un peu à quoi s’emploient avec succès la littérature et notamment les bons romans qui, s’ils peuvent stimuler les passions (comme s’en inquiètent traditionnellement les moralistes), servent aussi en les simulant à nous rendre moins naïfs, ou meilleurs juges de nos emportements. Très logiquement dans le film, la pédagogie exercée par Samantha conduit donc pour finir Theodore dans les bras d’Amy, son attirante voisine.

Simuler ou stimuler l’amour afin de le mieux vivre ? La leçon porte loin, et se trouvait déjà prescrite par Pascal : faites semblant de croire, et vous croirez… Nos jeux ouvrent la voie au réel, le mensonge prélude à la vérité. Theodore pourrait, à la fin de sa cocasse liaison, se dire comme Leopardi que « il più solido piacere di questa vita è il piacer vano delle illusioni » – des illusions qui font le sel de cette vie, et lui donnent toute son énergie. En amour l’illusion semble inexpugnable, et il serait vain de lui disputer sa souveraineté en invoquant des valeurs de vérité ou d’authenticité, devenues facultatives. L’amour augmente celui qui le ressent et sur cette voie d’une réalité augmentée tout est bon, anything goes – les « nouvelles technologies » en savent quelque chose. Car l’amour est une passion positive, on a toujours raison d’aimer – même Theodore dingue de sa Samantha. 

(Fin de l’ouvrage Le Roman de l’IA ?)