Perdre le contrôle

Publié le

(Le roman de l’IA, chapitre 2)

Les excarnations passées en revue supra ne touchent pas l’essentiel ; ni les outils (qui prolongent nos muscles), ni les instruments (qui perfectionnent notre sensibilité et nos systèmes de connaissance) ne brouillent la hiérarchie, toujours bien tracée, de l’opérateur et de l’opéré, du sujet et de l’objet… Avec le marteau, la lunette astronomique ou le scanner, on sait toujours lequel commande l’autre, on ne perd pas de vue le patron. Un malaise en revanche s’installe quand la machine manifeste quelques velléités de nous dépasser, donc éventuellement de nous diriger ; quand le poste de pilotage glisse de l’homme à cette chose qu’il prenait pour sa créature.

Appelons PP ce précieux site de surplomb, garant de la maîtrise qui fait notre identité ; que se passe-t-il quand un assemblage de puces et de semi-conducteurs produit un raisonnement, un jugement ou un choix plus « intelligents » que les miens ? Quelle est la limite des exploits machiniques, dois-je abdiquer mes propres raisons devant celles de l’ordinateur ou de la prothèse dont le génie, impatient de supplanter le mien, inexorablement me dépasse ?

De nombreux films se sont emparés de ce scénario, au premier rang desquels celui qui nous sert ici de matrice, 2001 L’Odyssée de l’espace de Kubrick. On sait en effet que la croisière du vaisseau spatial (fût-elle bercée par « Le beau Danube bleu ») n’a rien d’un long fleuve tranquille, et que l’ordinateur de bord à la voix si douce médite une prise de pouvoir, et engage une lutte à mort contre ses maîtres provisoires les astronautes, bientôt bousculés dans leur poste de direction, et les prérogatives de leur maîtrise. Baptisée HAL (ajoutez en suivant l’alphabet une lettre à ce nom et vous obtenez IBM), la machine ourdit une série de dérèglements qui doivent forcer l’homme à quitter le vaisseau, et se perdre dans l’espace) ; de quel métaniveau humain, ou poste de commande résiduel, celui-ci dispose-t-il pour combattre HAL ? C’est ironiquement grâce au secours d’un tournevis (un assez bas degré de la technologie) que l’homme rétablit sa maîtrise en débranchant un à un les compartiments de l’ordinateur : émouvante séquence où nous assistons à l’agonie progressive de la machine, dont la voix suppliante s’amenuise et ne tient plus qu’à un fil, celui d’une petite chanson qui résume pour finir sa part évanouisante d’humanité… Une balance se trouve in extremis rétablie, on achève bien les ordinateurs (ou, nos machines meurent aussi !).

Le film de Yann Gozlan Dalloway (2025) reprend ce thème désormais rebattu d’une IA qui, au lieu de nous aider, prend le pouvoir sur nos propres neurones. La voix de « Dalloway » n’est pas moins caressante que celle de HAL. Ce patronyme a été donné à son « assistant vocal » par Clarissa (Cécile de France), une femme écrivain retirée dans la résidence Casa où divers artistes, musiciens, plasticiens, danseurs, écrivains, viennent poursuivre ou achever une œuvre en cours. Son appartement fait rêver, les écrans qui tapissent les murs y construisent un environnement sans cesse changeant, où au doigt et à l’œil Clarissa peut faire apparaître un bord de mer remplacé par ses mails, ses textes, ses recherches du jour, les visages de ses correspondants ou de ceux qui hantent sa mémoire, et que Dalloway s’empresse de faire surgir à sa demande… Notamment celui de Lucas, le fils suicidé dont Clarissa tente de fixer par écrit le drame.

« Dalloway » évoque forcément pour ma génération un titre de Virginia Woolf (adapté à l’écran par un beau film intitulé The Hours où joue Meryl Streep), et je me demandais avant la séance quel lien pouvait entretenir ce film avec l’œuvre ou la figure de la romancière. Nous apprenons assez vite que Clarissa, jusque là cantonnée dans la littérature jeunesse, a entrepris cette fois d’écrire sur les derniers jours de Virginia qui, les poches alourdies de pierres, décida comme Ophélie de confier un beau matin son corps à la rivière… De quels souvenirs, de quelles hantises se gonflent peu à peu les poches de Clarissa, aux prises avec son travail d’écriture, et avec les conseils toujours obligeants (aux deux sens du terme) de son assistante vocale (jouée par la voix de Mylène Farmer) ?

Ce film propose un thriller très efficace, et malheureusement assez plausible. Il pivote sur une citation souvent faite de Virginia Woolf, que Yann Gozlan nous livre un peu déformée : pour grandir ou devenir un sujet, il convient d’avoir « une chambre à soi », c’est-à-dire un espace de recueillement, ou un for intérieur, où les autres ne pénètrent pas. Vivre, et être un sujet, c’est disposer de ce monde propre, qui n’est qu’à soi et dont chacun cultive ou perfectionne la singularité, et pour cela la clôture. Dalloway inversement nous montre cette chambre, si obligeamment capitonnée de caméras et de micros, envahie par une IA dont on ne sait si elle assiste ou si elle dépouille, si elle espionne au risque de la décerveler la malheureuse Clarissa, qui rumine ses soupçons jusqu’à la paranoïa…

C’est un défi pour le cinéma de filmer la conscience, ou par exemple quelqu’un en train d’écrire ; la graphosphère et la vidéosphère (comme nous dirions en médiologie) se contrecarrent. Comment Virginia, comment Lucas, comment Clarissa à leur suite marchent-ils au suicide ? La montée du danger chez Clarissa se joue sur une frontière qui se brouille et s’efface peu à peu, où est le dehors (cet appartement si bien pourvu de prothèses vocales, visuelles, mentales) et le dedans d’une conscience, d’une histoire qui obsède l’écrivaine et qu’elle voudrait exorciser par le détour, biographique, de Virginia Woolf ? Qui parle, qui écrit dans cette chambre où une auxiliaire mentale, « Dalloway », enveloppe Clarissa de ses suggestions, ou pour mieux dire de ses injonctions ? 

Le soupçon grandit, au fil du film, que « Casa », cette merveilleuse résidence pour artistes n’est peut-être pas le lieu de recueillement que vante sa directrice (à la voix fort inquiétante), mais un piège où les pensionnaires sont cueillis, volés de leur intimité pour nourrir ce qui manque encore précisément à l’IA : des sentiments, des cas de conscience, un fleuve d’affects et de passions. Nous vivons depuis quelques temps sous la menace de ce racket, qui ne concerne encore que de superficielles données personnelles, choix d’achats, modes de pensée, parcours de consommateurs… Ce film envisage (il annonce pour la dénoncer) l’étape suivante, où nous devenons cobayes dans des fermes d’élevage et de prélèvement de notre vie intérieure ; dans un monde où il n’y a plus de chambre à soi

Comme l’explique lumineusement une vidéo incrustée que Clarissa découvre en frissonnant, l’IA, après s’être nourrie des data de nos consommations, de nos consultations ou des parcours de nos curiosités, progressera désormais en prélevant directement sur les artistes (ces gens qui travaillent et mettent en forme les affects) des modes de fonctionnement plus intimes de nos neurones. L’IA profonde de demain apprendra grâce à eux à pleurer, à craindre, à aimer…, mais elle doit pour cela moissonner les données d’une maison comme « Casa », où l’on tient rassemblés des professionnels de l’expression des sentiments. 

Clarissa a-t-elle raison de se révolter et de chercher à fuir ? Ou est-elle le jeu de soupçons et d’indices que sa propre imagination exagère ? Ici encore où passe la frontière de la clairvoyance et de l’auto-intoxication, de l’assistance et de la persécution ?  Du machinique et du vivant ? Que gagne un sujet à s’entourer d’autant de prothèses, a-t-il encore une chambre à soi ? De quel fantôme Clarissa est-elle hantée, Virginia Woolf suicidée par noyade, Lucas défenestré, ou Dalloway dont la voix la poursuit jusque dans la maison refuge de son ex-mari ? Pouvons-nous, avec ce dernier épisode, croire qu’il existe encore un monde extérieur où ne pénètreraient pas la voix insinuante et les suggestions de l’Autre ?

Dalloway renouvelle magistralement les films de fantômes, et nos intimes questionnements sur le propre, et sur l’altérité ; magnifiquement inquiétante, son intrigue ne tranche pas et nous laisse ruminer nos propres doutes.

(à suivre)

3 réponses à « Perdre le contrôle »

  1. Avatar de Dominique
    Dominique

    Ah, mon cher Daniel, il y a t-il encore un pilote dans l’avion ?

    Qui va contrôler le contrôleur ? Un petit tour au Poste de Pilotage.

    Qui pilote ? Dans ces deux mots, il y a « Politique ». Ce politique dont Régis Debray a fait une critique dense et signifiante de la raison politique pour le faire apparoir.

    Changement de perspective et votre billet nous invite en filigrane à retrouver François Dagognet bien connu des épigones bachelardiens et de la revue « Médium » qui a lui a consacré, vous le savez bien, un numéro spécial.

    Je le cite : « – En somme, nous nous sommes employé à substituer à une théorie du « sens dessus dessous » une théorie du « sens dessous dessus ».- »

    Dans son « adytum ou sa « chambre à soi » (Louis Aragon aurait peut-être écrit « soie »), autrement dit en son for intérieur, à l’abri des séductions du monde, on cherche à comprendre (prendre avec soi)

    Ne pas se laisser happer par la machinerie ambiante, certes, mais ce matin aux aurores, devant mon écran, je participe à la faire tourner et je suis dans les rouages, quoi qu’on die !

    Je repense au dernier commentaire d’Addison et de la réponse de son chat qui n’est pas celui du Cheshire mais celui de l’artificielle intelligence.

    Il a tout faux son minet et je puis en apporter la preuve, car j’étais sous cette grange avec le professeur donnant conférence, loin des ateliers charentais du développement personnel où l’on se doit de payer sa place. Hôte de passage en ces lieux, l’auteur du « Feu sacré » vous en dira peut-être quelque chose si vous le rencontrez par hasard, dans sa campagne eurélienne.

    Par bonheur, la machine ne voit pas tout, ne sait pas tout et c’est heureux.

    Nous reste le « moi » avec « quelque chose  » dans sa chambre secrète.

    Le chanter pour ne point le dire, ça ne fait pas tout !

    On attend la suite…sans perte de contrôle.

    Dominique

  2. Avatar de Michel Pierssens

    Cher Daniel, une asso souhaite t’inviter à poursuivre sur ce sujet. Merci de prendre contact.

  3. Avatar de Aurore
    Aurore

    Bonsoir !

    Quelle aubaine, les amis ! Une association souhaite que le randonneur cycliste poursuive sur sa lancée, sans perdre le contrôle de son pédalier.

    Il y a des milliers d’associations au pays de la dolce France ou ce qu’il en reste, avec ses droits d’entrée payants et la petite urne au sortir de la salle des conférences pour faire un geste. Pourquoi pas ?

    Dans « L’État culturel », on connaît la chanson et Marc Fumaroli a bien raison de mettre un bémol.

    On rêve, et ce n’est qu’un rêve, d’une communauté de silencieuses, loin des pratiques culturelles des sachants, qui saurait en cet espace nous interpeller, à temps et à contretemps, et nous guider vers une conduite accompagnée.

    Qui saura ?

    Bonne nuit étoilée à tous

    Aurore la caissière qui n’a pas la langue dans sa poche

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

À propos de ce blog

  • Ce blog pour y consigner mes impressions de lecteur, de spectateur et de « citoyen concerné ». Souvent ému par des œuvres ou des auteurs qui passent inaperçus, ou que j’aurai plaisir à défendre ; assez souvent aussi indigné par le bruit médiatique entretenu autour d’œuvres médiocres, ou de baudruches que je…

    Lire la suite

À propos de l’auteur

  • Daniel Bougnoux, professeur émérite à l’Université Stendhal de Grenoble, est ancien élève de l’ENS et agrégé de philosophie. Il a enseigné la littérature, puis les sciences de la communication, disciplines dans lesquelles il a publié une douzaine d’ouvrages.

    Lire la suite

Les derniers commentaires

  1. Bonjour ! Quel titre, ce billet ! Il nous invite à l’introspection, bien évidemment ! Il m’a fait penser à…

  2. Bonjour ! Je viens de lire la réponse décousue du chat expert en intelligence artificielle, communiquée par Gaston, qui fait…

  3. Bonsoir, Alicia, j’ai interrogé le chat « Claude Fable 5 » comme vous nous le conseillez et voici sa réponse. Pour ne…

Articles des plus populaires