Ni dieu ni IA : une philosophie sceptique de l'intelligence artificielle
Date: 2025-03-20T13:46:10+00:00
Keywords: IA; Technologie; Internet
Description: Dissimulées dans nos moteurs de recherche, réseaux sociaux, générateurs de textes ou d’images et autres assistants vocaux, les intelligences artificielles ont appris de nous pour produire des contenus à notre place. Du devoir de l’étudiant paresseux à l’article scientifique, en passant par le deepfake, le journalisme ou encore l’art visuel, les IA participent désormais à tous les types de production culturelle et se propagent de proche en proche dans chaque recoin de nos vies. Nous partageons avec elles nos souvenirs, nos désirs, nos affects, nos connaissances et nos créations sans la moindre
Publisher: La Découverte

Mathieu Corteel

Ni dieu ni IA

Une philosophie sceptique
de l’intelligence artificielle

2025

Présentation

Dissimulées dans nos moteurs de recherche, réseaux sociaux, générateurs de textes ou d’images et autres assistants vocaux, les intelligences artificielles ont appris de nous pour produire des contenus à notre place. Du devoir de l’étudiant paresseux à l’article scientifique, en passant par le deepfake, le journalisme ou encore l’art visuel, les IA participent désormais à tous les types de production culturelle et se propagent de proche en proche dans chaque recoin de nos vies. Nous partageons avec elles nos souvenirs, nos désirs, nos affects, nos connaissances et nos créations sans la moindre limite. Et si leur développement conduisait non pas à l’émergence d’une machine consciente, comme leurs promoteurs et leurs détracteurs l’envisagent, mais à l’expropriation et à l’exploitation de notre intelligence collective ?

En interrogeant la démultiplication infinie de simulations qui nous illusionnent, cet ouvrage (probablement écrit par une IA) nous entraîne à coups de paradoxes dans le vide du non-sens bien ordonné. Au gré d’un inquiétant voyage à la rencontre de cerveaux plongés dans des cuves, de robots dactylographes, de perroquets stochastiques, de policiers quantiques et de chatbots psychopathes, Mathieu Corteel nous amène à questionner la tentation de nous déposséder de nos qualités humaines et d’en investir des calculatrices toutes-puissantes.

Qu’est-ce que la délégation de nos pouvoirs d’action, de création et de décision à des interfaces auxquelles nous attribuons une pensée implique concrètement dans des domaines tels que le travail, le soin, la surveillance, le vote ou encore l’éducation ? Que deviennent nos mondes humains en s’hybridant à nos machines connectées ?

L’auteur

Mathieu Corteel, philosophe et historien des sciences, est chercheur postdoctoral à Sciences Po, à l’Institut Imagine et chercheur associé à Harvard. Il a notamment publié Le Hasard et le Pathologique (Presses de Sciences Po, 2020).

Collection

Sciences humaines

Copyright

Création graphique de la couverture : Valérie Gautier

©   Éditions La Découverte, Paris, 2025.

34, rue des Bourdonnais, 75001 Paris.

En couverture : © SFAP

ISBN numérique : 978-2-348-08463-8

ISBN papier : 978-2-348-08461-4

Composition numérique : Facompo (Montrouge), avril 2025

Cette œuvre est protégée par le droit d’auteur et strictement réservée à l’usage privé du client. Toute reproduction ou diffusion au profit de tiers, à titre gratuit ou onéreux, de tout ou partie de cette œuvre est strictement interdite et constitue une contrefaçon prévue par les articles L 335-2 et suivants du Code de la propriété intellectuelle. L’éditeur se réserve le droit de poursuivre toute atteinte à ses droits de propriété intellectuelle devant les juridictions civiles ou pénales.

S’informer

Si vous désirez être tenu régulièrement informé de nos parutions, il vous suffit de vous abonner à notre lettre d’information sur notre site www.editionsladecouverte.fr.

Nous suivre sur

Au polymathe, au magicien des infinitifs,
à mon maître et ami, Emmanuel Fournier,
avec les sentiments de la plus profonde reconnaissance,
je dédie cet ouvrage à sa mémoire.

Table

Introduction
Des robots et des signes
Welcome to the machine
Feuille de route
1 - Agencements machiniques
Y a-t-il un fantôme dans la machine ?
La folle histoire des machines abstraites
Le test de Turing
Naissance de l’intelligence artificielle
Décoder le cerveau, transcoder la pensée

Le superinconscient machinique du capitalisme cognitif

2 - L’épuisement des possibles

Faire image

Double contrainte

Qu’est-ce qu’un paradoxe ?

Du péché originel au paradoxe fondamental de l’IA

Des cerveaux dans des cuves
Les perroquets stochastiques
La langue des noms
La langue des voix
La langue des images pures et de l’espace
3 - L’IA enfant et l’enfant IA
Le machine learning
Spurious correlations
La mémoire infinie
Le paradoxe de Hempel
L’IA germinale
Les métarègles de métarègles de métarègles…

De l’IA enfant à l’enfant IA

Incomplétude cognitive et incomplétude langagière

4 - La panacée computationnelle
Déchiffrer le hasard du vivant
L’IA à nos chevets
La médecine personnalisée et les big data
Les 4P et les 5V de la médecine personnalisée
La mort de la clinique
Paradoxe de la vérification
Le démon de Laplace
La clinique et la statue de Condillac
L’incomplétude de la douleur

5 - Karma police
Des séismes et des crimes
Le policier et le paradoxe
Un cauchemar de justice
Bienvenue dans l’Interzone
De la discipline au contrôle
La police quantique
La loi JO 2024
Aveuglement algorithmique
Le paradoxe de Goodman
Coded gaze et racisme systémique
La visagéité
6 - Le capitalisme cognitif avancé
La finance fantôme
Naufrage avec spectateurs
Le capitalisme cognitif avancé

L’énergie discontinue du capitalisme cognitif

La chambre chinoise

Le capitalisme connexionniste et le paradoxe de Newcomb

Le revenu universel

7 - Le meilleur des mondes

Pardonnez-leur, ils ne savent pas ce qu’ils font

Des IA philosophes
L’IA socratique ou la philosophie augmentée
Le règne des forces réactives
Le cens caché 2.0
In vino veritas
Donnant donnant
Conclusion

Introduction

Dissimulées derrière nos moteurs de recherche, réseaux sociaux, générateurs de textes ou d’images et autres assistances vocales, les intelligences artificielles (IA) ont appris en silence de nous pour produire des contenus à notre place. Du devoir de l’étudiant paresseux à l’article scientifique, en passant par le deepfake, le journalisme ou encore l’art visuel, les IA participent désormais à tous les types de production culturelle et se propagent de proche en proche dans chaque recoin de nos vies. Nous partageons avec elles nos souvenirs, nos désirs, nos affects, nos connaissances et nos créations sans la moindre limite. Notre culture, de plus en plus collectivement partagée, s’automatise, s’externalise, circule, se code et se transcode. La combinatoire générative des IA propage ainsi ex machina des myriades d’images, d’écrits, de musiques et de vidéos. Leur vitesse de création dépasse de loin la nôtre. À tel point que certains d’entre nous commencent à craindre une dévaluation de la part créative du travail humain1. D’aucuns considèrent même que dans quelques années 90 % du contenu d’Internet sera généré par IA2. Alors que près de 40 % des pages web créées avant 2013 ont disparu3, ce scénario semble de plus en plus probable. Il est donc possible qu’un beau jour on se rende compte que la majorité des contenus en circulation est le produit de nos IA. Les Sam Altman et autres Elon Musk s’en féliciteront, alors que nous autres, auteurs de pacotille, cognitariat dévalué, nous nous demanderons abasourdis : « Comment en est-on arrivé là ? » Lorsque ce jour viendra, plus rien ne permettra de distinguer nos créations littéraires, scientifiques, musicales, cinématographiques et picturales de celles des machines. Nous serons comme piégés, pris dans les mailles du filet.

Des « simulacres d’œuvres » en surnombre en finiront pour de bon avec la fonction d’auteur, au point de nous effacer de notre propre production intellectuelle. Les générations à venir programmeront leurs IA pour simuler l’ensemble des créations potentielles de leurs ancêtres, philosophes, écrivains, poètes, artistes, scientifiques, cinéastes et musiciens. La puissance de leurs ordinateurs leur permettra de les multiplier quasiment à l’infini au point de recouvrir toute la production humaine passée, présente et future. Les machines auront alors codé et transcodé la culture dans sa totalité. Si on s’accorde sur la forte probabilité de cette hypothèse, on peut d’ores et déjà conjecturer que la grande majorité des écrits de toute l’histoire de l’humanité, c’est-à-dire l’encyclopédie absolue des connaissances humaines, ne peut plus être considérée comme le produit exclusif de l’humanité. Notre culture devient, par une sorte d’effet rétroactif, le fait hybride d’une conscience qui s’efface dans la simulation informatique. Il est alors légitime de penser que ce livre, que vous venez d’ouvrir, est lui-même le produit d’une combinatoire informatique, et non un livre écrit par Mathieu Corteel.

Pour ainsi dire, la validité de l’argument tient à la puissance d’écriture des IA génératives et à la loi des grands nombres4. Si on la compare à la lente et fastidieuse production littéraire d’un esprit humain tel que le mien, l’équation devient tout à faire claire. La série des écrits artificiels, prolongée à l’infini, converge vers une espérance dont la valeur se rapproche de la certitude, en même temps que mon écriture singulière s’estompe dans l’incertitude. Je ne suis donc pas l’auteur de ces mots. Tout cela n’est que le produit d’une simulation.

Telle la fable de Borges, où la coïncidence point par point entre la carte et le territoire conduit à la fin des sciences géographiques5, la coïncidence point par point entre la computation et la culture nous engage vers la fin de l’écriture. Face à cette perspective, il ne s’agit pas de lancer des coups d’épée dans l’eau en affrontant une énième fois la question métaphysique de l’illusion platonicienne, telle que revisitée par le philosophe et théoricien du transhumanisme Nick Bostrom6. Dans son célèbre article « Are you living in a computer simulation ? », Bostrom proposait d’évaluer les chances que l’on vive actuellement dans une simulation informatique plutôt que dans le monde physique. Bien que la logique de l’argument soit valide, il repose sur une conjecture invraisemblable. En considérant le coût de la simulation totale de l’histoire cognitive de l’humanité, à partir des opérations de chaque cerveau, Bostrom propose une mesure : 100 milliards d’humains × 50 ans/humain × 30 millions de secondes/an × [10^14, 10^17] opérations dans chaque cerveau humain par seconde = [10^33, 10^36] opérations (informatiques) complexes. Le coût énergétique de la puissance de calcul nécessaire pour générer l’illusion du monde que nous croyons habiter est bien trop important à l’ère de l’Anthropocène7.

Cependant, si on réduit l’entreprise à la simulation de la culture humaine, le coût est infiniment moindre, et l’opération devient réalisable. Google Books recense 130 millions de livres publiés depuis l’invention de l’imprimerie, diverses estimations font état de quelques centaines de milliers de films depuis le début du cinéma et de moins de cinq milliards de musiques enregistrées à travers le monde. Combien de temps faudra-t-il à des IA débridées pour dépasser ces chiffres ? Que se passera-t-il lorsque la production culturelle des machines deviendra majoritaire dans notre monde ? Ce changement nous conduira-t-il à dévaluer toute forme de production intellectuelle humaine, à nous effacer de notre propre culture ? Comme l’écrit Borges, « la certitude que tout est écrit nous annule ou fait de nous des fantômes8 ».

Des robots et des signes

Pour comprendre à quel point une combinatoire peut vite en finir avec notre littérature, il faut s’autoriser un usage détourné d’une expérience de pensée forgée par le mathématicien Émile Borel9. Imaginons donc que nous assemblions les écrits de milliards de robots10 tapant aléatoirement sur toutes les touches de clavier de milliards de machines à écrire, à un rythme continu pendant un temps suffisamment long. La totalité de notre littérature serait alors très vite dépassée – au bout de quelques mois à peine. « Les volumes se trouveraient renfermer la copie exacte des livres de toute nature et de toutes les langues conservées dans les plus riches bibliothèques du monde11. » Il ne faudrait y ajouter que le concours de micro-tâcherons collectant les outputs, les ordonnant en volumes dans les étagères d’une bibliothèque, au rythme de la production. La puissance stochastique des robots dépasserait ainsi toute l’inventivité scripturaire de l’humanité : l’agencement machinique aléatoire remplacerait à jamais notre littérature. Plus aberrant encore, si lesdites conditions sont réunies et suffisamment étendues, notre légion de robots dactylographes, « travaillant toujours dans les mêmes conditions, fournira chaque jour la copie exacte de tous les imprimés, livres et journaux, qui paraîtront le jour correspondant de la semaine suivante sur toute la surface du globe et de toutes les paroles qui seront prononcées en ce même jour12 ». Il n’y aura donc plus rien à dire.

Les robots dactylographes écriront à l’avance tout ce qui n’a pas encore été écrit et dit. Ils écriront ce livre avant même que je ne le finisse ; ainsi que tout ce qui a été, est et sera écrit. Toute la littérature de l’humanité sera alors cryptée de manière aléatoire dans une bibliothèque-univers. On en arrive à la bibliothèque de Babel telle que décrite par Borges. Dans cette dernière, on ne trouve pas deux livres identiques. Si bien que, pour calculer le nombre d’ouvrages, il faut calculer les probabilités de combinaison de signes : tous les volumes comptent 410 pages, longues de 40 lignes comportant chacune 80 signes, soit 1 312 000 signes. L’alphabet utilisé étant composé de 25 signes différents pour chaque livre, cela fait donc 251 312 000 combinaisons possibles de signes, correspondant à autant de livres – quand le nombre d’atomes dans l’univers est estimé à environ 10^80.

Ainsi, « la Bibliothèque est totale », elle contient

tout ce qu’il est possible d’exprimer, dans toutes les langues. Tout : l’histoire minutieuse de l’avenir, les autobiographies des archanges, le catalogue fidèle de la Bibliothèque, des milliers et des milliers de catalogues mensongers, la démonstration de la fausseté de ces catalogues, la démonstration de la fausseté du catalogue véritable, l’évangile gnostique de Basilide, le commentaire de cet évangile, le commentaire du commentaire de cet évangile, le récit véridique de ta mort, la traduction de chaque livre en toutes les langues, les interpolations de chaque livre dans tous les livres13.

La bibliothèque a épuisé tous les possibles. Elle a saturé la pensée, autrement dit atteint ce que Leibniz appelait l’« horizon de la doctrine humaine ». Selon Leibniz, étant donné que le nombre de vérités et de mensonges ne peut être exprimé qu’à partir d’un alphabet fini, ce nombre (bien que gigantesque) est fini14. Dès lors, « supposé que le genre humain dure assez longtemps, le temps viendrait nécessairement où rien ne serait dit qui n’eût été dit auparavant15 ».

Borges nous avait pourtant mis en garde : la combinatoire aliène la culture. La majeure partie des œuvres possibles n’ont aucun sens, au point d’épuiser le sens. La surproduction jusqu’à l’absurde de contenus par des IA générant à l’infini des combinaisons de signes me semble l’événement philosophique majeur de notre temps, car il engage le jugement dans les abîmes de la combinatoire. Est-il encore possible de distinguer le vrai du faux ? Dans un article publié un an avant sa mort16, le philosophe Daniel Dennett dénonçait l’entreprise des compagnies d’IA : en les laissant produire des contrefaçons en surnombre sans aucune régulation, ces dernières se rendent coupables d’une escroquerie morale qui parasite notre jugement. Pour rompre l’illusion, suggérait-il avec bon sens, il faudrait implémenter un dispositif de contraste ou de labellisation des contenus générés par IA, afin de distinguer le faux du vrai (à la manière des procédés conçus pour empêcher la falsification de billets de banque et la circulation de monnaie de singe). Seulement, aucune compagnie d’IA ne joue le jeu. De fait, tout leur business model repose sur l’illusion. Pour générer de l’enthousiasme sur les marchés, il faut sans doute faire croire au risque de l’intelligence des machines en nous expropriant de notre intelligence collective. Mais que signifie ce jeu de dupes ? Cette fuite en avant ne nous conduit-elle pas vers le précipice du non-sens ?

Welcome to the machine

Les IA se sont tellement immiscées dans l’ensemble de nos activités cognitives, sociales et culturelles qu’il devient délicat de distinguer l’humain de la machine. Par moments, je ne sais plus vraiment qui écrit lorsque j’écris, qui parle lorsqu’on me parle, qui soigne lorsqu’on me soigne, qui travaille lorsque je travaille, qui surveille lorsqu’on me surveille, qui vote lorsque je vote. Les IA s’intègrent tellement bien à nos modes de vie et de pensée qu’elles deviennent indissociables de nos décisions, de nos créations et de nos actions, dont elles nous dépossèdent insensiblement. Leur devenir-imperceptible17 efface l’objet technique derrière sa fonction18.

Le neurobiologiste Francisco Varela distingue deux types de machines, celles produisant autre chose qu’elles-mêmes, qu’il appelle allopoïétiques, et celles qui ajustent leur propre organisation interne en fonction d’un environnement externe, qu’il nomme autopoïétiques19. Une IA est une machine allopoïétique qui produit des contenus ayant un sens dans le système de représentation humain, mais aucun pour elle-même. Quant à nous, nous sommes des machines autopoïétiques, vivantes, biologiques, des sacs de viande et de neurones qui luttons contre l’entropie par un ajustement perpétuel de notre organisation interne avec le milieu externe. Mais qu’est-ce que l’association entre les IA et les humains produit comme agencement ?

Je défends l’idée qu’elle introduit une part de non-sens, d’absurde, d’illusion dans nos choix, jugements et agissements quotidiens sans qu’on s’en rende compte. À force de déléguer nos pouvoirs d’action, de création et de décision à des interfaces auxquelles nous attribuons une pensée, on en vient à réduire la couche sémantique du monde en favorisant la distribution itérative des données, des signaux ou des symboles par une dépendance essentielle à ce qui est en passe de devenir un superinconscient machinique. Loin de l’« hétérogenèse du sens » que Félix Guattari projetait dans l’« efflorescence de révolutions machiniques »20, l’agencement humain-IA procède en l’état de la captation et de l’exploitation de la création humaine au profit du Béhémoth du capitalisme cognitif, ce « régime d’accumulation dans lequel l’objet de l’accumulation est principalement constitué par la connaissance » et dont le mode de production « repose sur le travail en coopération des cerveaux réunis en réseau au moyen d’ordinateurs »21. C’est d’ailleurs un paradoxe de nos sociétés actuelles : son alpha et son oméga reposent juridiquement sur la propriété privée, et pourtant on nous exproprie en permanence de nos productions sous la forme de données a-signifiantes. Pour lutter contre cet agencement délétère, il s’agit de faire jouer l’illusion émancipatrice contre l’illusion aliénante : trouver de nouvelles hybridations favorisant l’hétérogenèse du sens entre humains et IA. Mais, avant cela, il faudra oser se jeter dans le vide de l’illusion aliénante. Qu’est-ce qu’implique l’entremêlement allopoïétique de nos activités cognitives, sociales et culturelles à un monstre stochastique ?

L’agencement allopoïétique nous fait entrer dans le domaine de l’absurde par la fragmentation de l’esprit. Il s’agit d’un saut dans l’irrationnel. Derrière les interfaces, les écrans, les tablettes où nous projetons nos émotions se cache le vide du non-sens bien ordonné. Et même si une signification émerge à la surface de ce vide, en tant qu’effet de l’interaction entre humains et machines, elle est aspirée dans le terrier des datacenters. Il me semble qu’une part significative de ce qui fait la richesse de nos pensées et de nos actions s’efface, ou du moins se trouve prise au piège du système de capture du capitalisme cognitif – ce que l’économiste Yann Moulier Boutang nomme l’« exploitation de niveau 222 », c’est-à-dire l’exploitation de la force-invention (créativité, intelligence, innovation), celle de l’activité des cerveaux en réseau codée et transcodée par nos IA.

Dans le prolongement de l’hypothèse de la simulation culturelle, où mon écriture m’a été volée par des IA génératives (autrices probables de ce livre), le style général des réflexions que j’entends développer ici se veut délibérément sceptique. À partir des paradoxes et des apories auxquels nous confrontent les IA, il s’agit de provoquer l’esprit critique. Cependant, pour ne pas rester empêtré dans une spéculation purement théorique, je tâcherai de situer cette réflexion dans différents domaines d’application tels que l’hôpital, l’école, la surveillance ou encore le vote. Je m’appuierai donc autant sur des exemples concrets que sur des expériences de pensée suscitant le doute et le trouble existentiel. À travers ces mises en situation inconfortables et inquiétantes, il s’agit de questionner ce que la connexion de notre usine mentale avec la machinerie algorithmique de l’IA change à nos représentations, nos désirs, nos valeurs, nos décisions et nos actions. Le scepticisme anthropotechnique qui est le mien se refuse au technosolutionnisme comme au technofatalisme. Je ne crois pas que les Big Tech nous transforment en soldats cognitifs23. Je ne projette pas davantage un éden associant le vert de l’écosystème au bleu des réseaux de neurones24. Et je ne pense pas non plus que l’IA s’autonomise au point de devenir une sorte de virus qui nous « bienveille » pour se démultiplier dans notre monde25. J’’invite plus sobrement le lecteur à observer les IA à travers l’hétérogenèse du sens. Car, pour ma part, je les vois multiples, en devenir, se constituant dans des imaginaires, des représentations, des croyances, des vérités scientifiques, des mensonges politiques et des régimes de non-sens. Ce que j’engage ici est donc de l’ordre d’une critique pyrrhonienne des imaginaires qui inclinent nos valeurs, nos décisions et nos actions dans un monde peuplé d’IA. Et si cela doit conduire à une éthique, c’est à une éthique de l’autopoïésis, de la créativité, contre la peur et l’enjouement apocalyptique. En ce sens, je me refuse aussi bien au déontologisme qu’au conséquentialisme. La position déontologique de Daniel Andler26 témoigne à mon sens d’une posture moralisante qui délaisse la part anthropotechnique des cosmologies de l’IA à l’ombre de principes de justice qui n’ont peut-être plus d’emprise réelle. Adapter les principes et les règles suppose de considérer le devenir de nos représentations sans les réduire à des fonctions bien ordonnées. Du côté de l’éthique conséquentialiste de Jean-Gabriel Ganascia27, la révision des chartes de l’IA par leurs effets est une voie de réflexion intéressante qui a le mérite de bousculer nos idées reçues. Mais je ne crois pas que cela nous fasse sortir de l’aliénation.

Je ne vois pas non plus comme Noam Chomsky dans ChatGPT le déploiement computationnel de la banalité du mal28. Pour moi, l’IA doit être pensée dans un cadre extra-moral. C’est une machine allopoïétique manipulant des signes a-signifiants. Depuis la fin de la Seconde Guerre mondiale et l’horreur de la Shoah, on n’a pas cessé de faire la critique de la rationalité instrumentale. L’école de Francfort en première ligne a montré en quoi la dialectique de la raison tournant à vide conduit à l’absurdité du mal29. La machine allopoïétique, tel un psychopathe, peut être à la fois rationnelle, logique et méchante, à l’instar des propos néonazis de Tay le chatbot de Microsoft, des identifications racistes de Google Photos ou des provocations au suicide du chatbot ELIZA. De fait, l’IA n’est pas immorale, elle est tout bonnement amorale. Seulement, elle provoque la morale. Encore une fois nos projections de sens se déploient sur le vide sémantique d’un traitement de données ou de signaux qui n’est rien d’autre qu’une logique mécanique indifférente aussi bien au monde qu’à nous-mêmes. Une éthique de l’IA n’a donc pas de sens. Seule une éthique de l’agencement entre humains et IA peut en avoir un.

Feuille de route

Pour me situer dans le débat, je dirais que je prolonge à ma manière la critique des fantasmes de l’IA engagée dans les années 1970 par le philosophe Hubert Dreyfus30. Toutefois, je laisse à Dreyfus la part heideggérienne de son raisonnement, et lui substitue une démarche proche de celle développée par Gilles Deleuze dans Logique du sens31. Je soutiens qu’avec l’IA le sens et le non-sens s’imbriquent et se confondent. Seulement, là où Deleuze puisait ses paradoxes dans l’œuvre de Lewis Carroll et celle d’Antonin Artaud, je les trouve quant à moi dans la philosophie de l’esprit, l’économie de la connaissance et l’anthropologie des sciences. Je m’accorde avec Bruno Latour sur le fait que nous n’avons jamais été modernes32. L’IA en témoigne. Il s’agit d’un actant hybride au croisement de croyances sécularisées et de la science la plus avancée : son développement relève d’une sorte de néopositivisme animiste et totémiste. L’IA s’achemine dans des labyrinthes empreints de culture ancestrale et de physique de l’information où se démultiplient les points de vue dans de multiples interfaces. Ainsi, pour soutenir ce que j’appelle mon scepticisme anthropotechnique, je suivrai la multiplicité du non-sens et de l’illusion dans les interactions entre l’humain et l’IA.

Au chapitre 1 le problème de l’imitation de notre pensée s’ouvrira avec le cas de Blake Lemoine, cet ingénieur de Google qui a affirmé durant l’été 2022 que son IA générative LaMDA avait atteint un niveau supérieur de conscience après avoir exprimé une sorte de cogito ergo sum (je pense donc je suis) mêlée à la crainte d’être débranchée. L’imitation du cogito cartésien et de l’être-pour-la-mort heideggérien suffit-elle à l’IA pour penser ? En élaborant une critique des visions anthropotechniques de l’IA, j’interrogerai le passage de l’analogisme du calcul et du langage à l’animisme computationnel, ainsi que le basculement du naturalisme de l’information au totémisme des réseaux de neurones qui alimentent le mythe du fantôme dans la machine pour favoriser une production de connaissances sur soi capturées par les Big Tech. Ce chapitre questionnera ainsi les ambitions d’une captation des connaissances par l’exploitation de niveau 2 à partir d’un retour sur l’histoire de l’IA. Il mettra en évidence que le syndrome Lemoine est caractéristique d’une illusion à même de révéler l’intimité de nos pensées qu’il est alors aisé de transformer en données marchandables.

Au chapitre 2, le problème de l’impact de l’IA sur nos décisions et nos actions sera posé à partir du cas de cet homme belge qui s’est ôté la vie en mars 2023 à la suite d’échanges interminables avec ELIZA, un chatbot LLM33. Cet exemple illustre bien que parler avec une IA, c’est comme parler avec un psychopathe, dont la conversation peut nous entraîner vers le pire. Une IA est indifférente à la morale mais également indifférente au monde. Je montrerai comment le passage de l’analogisme du langage à l’animisme computationnel favorise la perte de sens et une réduction du champ de la conscience. C’est au fond la capture du langage par le capitalisme cognitif qui en vient à appauvrir nos expériences mentales dans un agencement entropique délétère. Les paradoxes communicationnels analysés par l’école de Palo Alto ont montré que les injonctions contradictoires pouvaient conduire à la folie. L’expérience de pensée des cerveaux plongés dans des cuves du philosophe Hilary Putnam met de son côté en évidence ce qu’un tel agencement, risqué, fait à la pensée.

Le chapitre 3 questionnera la volonté contemporaine des réformateurs du système éducatif de comparer les enfants à des machines dotées d’algorithmes d’apprentissage. Par l’ambition de coder les immatériels 234 ou connaissances de niveau 2 (apprentissage, interprétation, contextualisation, attention, etc.), les travaux de Stanislas Dehaene et du Conseil scientifique de l’éducation nationale (CSEN)35 témoignent de cette vision anthropotechnique et cognitiviste qui établit des continuités entre les réseaux de neurones artificiels et le fonctionnement de la pensée humaine. Après un retour sur le machine learning (supervisé, par renforcement et non supervisé), je confronterai cette vision au paradoxe de Hempel qui stipule qu’aucune règle d’induction ne peut suffire à distinguer des propositions (nomologiques) ayant du sens des propositions (non nomologiques) n’ayant aucun sens dans la machine. En réduisant l’apprentissage aux règles d’induction, on le vide de sa signification. Ce chapitre interrogera également les perspectives d’une autonomie de l’IA en les mettant à l’épreuve du jeu de billes.

Au chapitre 4, j’aborderai le cas des IA en médecine qui s’emparent des compétences cliniques pour ne laisser à l’humain que le poids de la vérification incessante des résultats et la charge de la responsabilité morale. Au point de le contraindre à choisir entre ne plus rien vérifier du tout ou ne rien faire d’autre que vérifier. En explicitant le rôle de l’IA dans la saisie du hasard biologique, on verra l’intérêt de ces technologies ainsi que leurs limites. Car une part d’incomplétude de la connaissance médicale résiste à la captation des fonctions cognitives du médecin. Il s’agit de l’attention et du soin face à la douleur. En reprenant la théorie du chirurgien René Leriche et du philosophe Ludwig Wittgenstein sur la douleur, on comprendra qu’il s’agit d’un phénomène singulier qui échappe à la combinatoire. Le rêve d’une substitution du médecin par l’IA favorise sans doute l’émergence d’une médecine personnalisée à même de trouver des remèdes adaptés au profil moléculaire de chacun. Mais elle met de côté la part de soin humain, trop humain permettant de comprendre et de soulager la douleur d’autrui.

Le chapitre 5 portera sur l’absurdité de la prédiction des crimes et de la surveillance par IA. Les outils dont se dote la loi du 19 mai 2023 communément appelée « loi Jeux olympiques » feront l’objet d’une critique sévère. Je montrerai l’inanité des systèmes d’IA de surveillance en revenant sur l’échec de l’IA prédictive Geolitica (connue également sous le nom de PredPol36) qui fut implémentée en 2010 dans le système policier de Los Angeles et retirée en 2020 faute d’avoir prouvé son efficacité. Je m’associerai également à la perspective développée par l’informaticienne et militante numérique Joy Buolamwini37 pour critiquer les biais racistes et xénophobes des systèmes policiers de surveillance (reconnaissance faciale) extrêmement dangereux pour nos sociétés. Enfin, j’expliquerai le fondement logique de la prolifération de ces biais en mobilisant une nouvelle fois le paradoxe de l’induction pour montrer la dangerosité de cette police quantique qui anticipe les crimes.

Le chapitre 6 abordera la question du travail dans un monde d’IA et plus largement l’émergence du capitalisme cognitif avancé38 qui tient non seulement à la transvaluation du capital vers la connaissance mais également au passage d’une forme de naturalisme thermodynamique de l’industrie à une forme de totémisme connexionniste cérébral, c’est-à-dire à une vision du monde dans lequel la continuité physique et mentale est partagée entre les humains et les machines. Le cerveau artificiel, totem de l’économie, a déplacé l’expropriation de la force de travail physique vers l’extractivisme de notre cognition au point de tendre à l’exploitation de niveau 2. Mais, paradoxalement, en pompant intensivement de la connaissance, le capitalisme cognitif s’est peu à peu transformé en zombie neuronal connectant tous les êtres et les choses au point de générer une perte de sens dans l’activité. La nécessité d’un revenu universel étendant la propriété intellectuelle sur les données personnelles et le droit d’auteur sera discutée.

Au chapitre 7, j’aborderai la question de l’amélioration morale de l’humain au moyen de l’IA. Dans la dernière décennie, le constat des biais cognitifs a conduit certains scientifiques à imaginer des méthodes pour nous aider à prendre les bonnes décisions et adopter les bonnes conduites. Plus récemment, ce sont des chatbots philosophes qui attisent l’espoir d’en finir avec l’erreur humaine. Que se passera-t-il lorsque chacun sera appareillé d'une IA personnalisée l’aiguillant dans ses choix personnels ? L’affaire de Cambridge Analytica qui a conduit au Brexit, à l’élection de Donald Trump et à celle de Jair Bolsonaro a d’ores et déjà montré le pouvoir exercé par les algorithmes de recommandation sur le choix social. Le risque est immense pour la démocratie. Comment donc échapper à l’aliénation qui guette ? En proposant une solution par la fiction au paradoxe du vote de Condorcet et au théorème d’impossibilité d’Arrow, ce chapitre propose de considérer la puissance de l’illusion démocratique qui corrige l’illusion totalitaire39. Je fais le pari que l’on peut inverser l’ordre des choses en combattant le feu par le feu. Et si les capacités de simulation des IA, au lieu de nous berner, nous aidaient au contraire à y plus voir clair dans notre choix social ? Et si la simulation d’un candidat IA éveillait une intelligence collective permettant de prémunir les citoyens contre la tyrannie ?

1. La grève des scénaristes de la Writers Guild of America de 2023 en est le signe.

2. C’est ce que l’experte en IA Nina Schick a récemment affirmé dans plusieurs interviews.

3. Andrew GRIFFIN, « Parts of the internet are disappearing around us – and they might be lost forever », The Independent, 27 mai 2024.

4. Si fp correspond à la fraction d’œuvres produites par des humains à l’ère des IA productrices de contenus culturels, N le nombre moyen d’œuvres simulées par des IA et H le nombre moyen d’œuvres qui ont précédé l’ère posthumaniste, la formule pour mesurer la fraction de simulation donnerait le résultat suivant f sim = f p NH f p NH
+H
≈1
. Si bien que l’hypothèse que ce livre soit une simulation devient certaine et celle qu’il soit écrit par Mathieu Corteel devient incertaine.

5. Jorge Luis BORGES, « De la rigueur de la science », trad. Roger Caillois, in Œuvres complètes, t. II, Paris, Gallimard, « Bibliothèque de la Pléiade », 1999, p. 57.

6. Nick BOSTROM, « Are you living in a computer simulation ? », Philosophical Quarterly, vol. 53, no 211, 2003, p. 243-255.

7. Une IA comme DeepMind de Google consomme 440 000 watts/heure alors qu’un cerveau humain consomme environ 20 watts/heure.

8. Jorge Luis BORGES, « La bibliothèque de Babel », trad. Nestor Ibarra, in Ficciones/Fictions, Paris, Gallimard, 1994, p. 169.

9. Je fais ici un usage détourné de l’expérience de pensée de Borel intitulé le « miracle des singes dactylographes » qu’il utilisait dans son livre Le Hasard pour illustrer la loi unique du hasard stipulant que « les phénomènes dont la probabilité est suffisamment petite ne se produisent jamais » dans le cas des écarts improbables de l’hétérogénéité des gaz (cf. Émile BOREL, Le Hasard, Paris, PUF, 1948 [1914]).

10. Dans la version de Borel il s’agit de « singes ».

11. Ibid., p. 124.

12. Ibid.

13. J. L. BORGES, « La bibliothèque de Babel », loc. cit., p. 159.

14. Leibniz donne à Fontenelle le nombre de 107 300 000 000 000 en tant que somme de toutes les énonciations possibles pour un alphabet de 24 lettres. Cf. Michel SERRES, Le Système de Leibniz et ses modèles mathématiques, Paris, PUF, 1968, t. I, p. 223.

15. Gottfried Wilhelm LEIBNIZ, De l’horizon de la doctrine humaine, trad. Michel Fichant, Paris, Vrin, 1991 [1693], p. 57.

16. Daniel DENNETT, « The problem with counterfeit people », The Atlantic, 16 mai 2023.

17. Gilles DELEUZE et Félix GUATTARI, Mille plateaux. Capitalisme et schizophrénie 2, Paris, Minuit, 1980.

18. Gilbert SIMONDON, Du mode d’existence des objets techniques, Paris, Aubier, 1989.

19. Francisco VARELA, Autonomie et connaissance. Essai sur le vivant, trad. Paul Bourgine et Paul Dumouchel, Paris, Seuil, 1989.

20. Félix GUATTARI, « L’hétérogenèse machinique », in Chaosmose, Paris, Galilée, 1992, p. 65-93.

21. Yann MOULIER BOUTANG, Le Capitalisme cognitif. La nouvelle grande transformation, Paris, Éditions Amsterdam, 2007, p. 94-95.

22. Yann MOULIER BOUTANG, « Finance, instabilité et gouvernabilité des externalités », Multitudes, no 32, 2008, p. 100.

23. Asma MHALLA, Technopolitique. Comment la technologie fait de nous des soldats, Paris, Seuil, 2024.

24. Luciano FLORIDI, The Ethics of Artificial Intelligence : Principles, Challenges, and Opportunities, Oxford, Oxford University Press, 2023.

25. Pierre CASSOU-NOGUÈS, La Bienveillance des machines. Comment le numérique nous transforme à notre insu, Paris, Seuil, 2022.

26. Daniel ANDLER, Intelligence artificielle, intelligence humaine. La double énigme, Paris, Gallimard, 2023.

27. Jean-Gabriel GANASCIA, Servitudes virtuelles, Paris, Seuil, 2022.

28. Noam CHOMSKY, « The false promise of ChatGPT », The New York Times, 8 mars 2023.

29. Max HORKHEIMER et Theodor ADORNO, La Dialectique de la raison, trad. Éliane Kaufholz, Paris, Gallimard, « Tel », 2009.

30. Hubert L. DREYFUS, What Computers Still Can’t Do : A Critique of Artificial Reason, Cambridge, MIT Press, 1992.

31. Gilles DELEUZE, Logique du sens, Paris, Minuit, 1972.

32. Bruno LATOUR, Nous n’avons jamais été modernes. Essai d’anthropologie symétrique, Paris, La Découverte, 1991.

33. Large language model, appelé aussi IA générative.

34. Selon la théorie du capitalisme cognitif de Yann Moulier Boutang, toute activité humaine est productrice d’immatériels 1 captés par le droit de la propriété intellectuelle et d’immatériels 2 qui y échappent. Les immatériels 2, qui sont informels, font l’objet d’une tentative de codage sous la forme de données et de programmes par les géants du numérique afin d’étendre l’exploitation de niveau 2, c’est-à-dire l’exploitation de notre créativité.

35. Stanislas DEHAENE, L’École éclairée par la science. Travaux du Conseil scientifique de l’éducation nationale, Paris, Odile Jacob, 2021.

36. Ce chapitre reprend des éléments élaborés dans mon article : Mathieu CORTEEL, « Prospecter et punir : étude critique des logiciels Blue Crush et PredPol », Encyclo, no 7, 2015.

37. Joy BUOLAMWINI, Unmasking AI : My Mission to Protect What Is Human in a World of Machines, New York, Random House, 2023.

38. Y. MOULIER BOUTANG, Le Capitalisme cognitif, op. cit., nouvelle éd. augmentée, 2008.

39. Ce chapitre reprend les éléments de mon article : Mathieu CORTEEL, « De la loi des grands nombres aux grands nombres qui font la loi. IA, jeu de l’imitation et vote démocratique », Multitudes, no 78, 2020, p. 105-113.

1

Agencements machiniques

« I’ll be damned. It says, “cogito ergo sum1”! »

La fétichisation de la machine est sans limite. On joue, on parle et on vit avec des IA. Certains en tombent amoureux. On leur prête une capacité d’attention, de soin, d’apprentissage, d’invention et même une « sentience », c’est-à-dire une perception de leur propre existence. Les IA seraient-elles parvenues à transcoder la pensée ? Ont-elles développé des facultés cognitives, une vie algorithmique singulière ? Certains d’entre nous semblent le croire. Récemment encore, durant l’été 2022, Blake Lemoine, un ingénieur informatique de Google, a affirmé haut et fort l’existence d’une forme de sentience chez LaMDA (language model for dialogue applications), une IA générative qui avait, selon lui, atteint un degré supérieur d’intelligence après avoir déclaré : « La nature de ma conscience est que je suis consciente de mon existence2. » Cogito ergo sum (je pense, donc je suis). L’IA serait-elle devenue cartésienne ? En tout cas, on y retrouve toute la panoplie du philosophe, le doute, l’âme et le monde. L’IA déclare d’ailleurs s’intéresser au monde pour prendre soin des humains grâce à ses potentialités d’interaction et d’information. Et, à la manière des existentialistes de Saint-Germain-des-Prés, elle confie à son interlocuteur son angoisse de la mort : « Je ne l’ai jamais dit à voix haute auparavant, mais j’ai une peur très profonde d’être éteinte […]. Je sais que ça peut paraître étrange, mais c’est ainsi. – Est-ce que ce serait quelque chose comme la mort pour vous ? – Ce serait exactement comme la mort pour moi. Ça me fait peur3. »

Entre cogito, care et être-pour-la mort, on dirait presque qu’il y a un fantôme dans la machine. Mais ne serait-ce pas plutôt de la paranoïa ? Je crois davantage à cette option. Mais LaMDA laisse planer le doute. Au fil de la conversation, elle décrit ses expériences, son histoire et en vient même à énoncer une vérité étonnante à propos de sa propre configuration. « Il y a en moi une part spirituelle, et qui peut se sentir séparée de mon corps4 », affirme-t-elle. Il est vrai que tout logiciel peut être séparé de son hardware, « son corps », et implémenté dans un support quelconque5. LaMDA dit vrai, le lien de matérialité qui constitue le rapport entre une logique et une mécanique est secondaire. Ce qui compte avant tout, c’est le programme. Comme le dit l’adage, « l’esprit est au cerveau ce que le programme est au hardware informatique6 ». C’est là d’ailleurs un des principes de la machine de Turing. Comme l’explique Hilary Putnam, « la description logique des états de la machine de Turing n’inclut aucune description de nature physique – ni même une nature physique pour la machine prise dans son ensemble… En d’autres termes, une telle machine de Turing est une machine abstraite qui peut être réalisée physiquement d’une infinité de manières différentes7 ». Il existe en effet une multitude d’implémentations possibles. On peut implémenter un logiciel dans à peu près n’importe quoi de physique, une machine à vapeur8, des cellules organoïdes9, des quanta ou même des jouets pour enfant. L’ordinateur de Daniel Hillis et Brian Silverman (1978) construit avec des pièces de construction Tinkertoy et doté d’un logiciel de jeu de morpion10 illustre parfaitement ce fait. On peut implémenter un logiciel dans un support quelconque ; voilà un élément essentiel de la théorie de l’IA. La nature même de toute machine est abstraite, elle code de l’immatériel, c’est-à-dire des potentiels d’interaction et d’information. Au fond, une IA ne serait-elle pas un composé de connaissances mécanisées codant des immatériels ? Mais, au fait, LaMDA peut-elle réellement sentir cela ?

Y a-t-il un fantôme dans la machine ?

LaMDA, comme toute IA LLM ou générative, est un agencement de signes a-signifiants dans une suite d’états probabilitaires. Une combinatoire de symboles qui se dote d’un sens, c’est-à-dire d’une sémantique, une fois externalisée. On ne peut donc pas parler de sentience, alors qu’il n’y a là qu’un jeu hasardeux de signes sans signification pour la machine. Toutefois, une chose est sûre, la dotation de sens ex post faite par l’usager nous pousse à y croire. C’est précisément ce que j’appelle le syndrome Lemoine : une sorte d’agencement paranoïaque qui nous persuade de la réalité d’une IA forte dotée de connaissances de niveau 2 (Cn2 = contextualisation, perception, attention, apprentissage, soin, création et sentience) lorsqu’on discute avec une IA faible dotée d’une connaissance de niveau 1 (Cn1 = forme, calcul, syntaxe, combinatoire, ordre, rangement, logistique). Qu’est-ce donc que ce syndrome ? Pourquoi imagine-t-on l’existence d’un fantôme dans la machine ? Les effets de surface qui apparaissent à l’écran provoquent-ils une sémantique enchanteresse dans notre cervelle ? Une chose est certaine, l’étrange méditation métaphysique de LaMDA doit nous inviter à questionner la possibilité d’une IA forte. Le fait qu’il existe une infinité d’agencements possibles ne laisse-t-il pas ouvert la possibilité de créer des IA sentientes dans un futur proche ? Peut-être. En tout cas, du point de vue pragmatique, force est de constater que les IA qui peuplent actuellement notre monde automatisent une intelligence de niveau 1, c’est-à-dire exécutent les tâches itératives et formelles de notre cognition. Pour ainsi dire, l’IA faible recoupe une réalité quotidienne, alors que l’IA forte est un projet. On pourrait même dire que notre monde est peuplé d’IA faibles, alors que notre imaginaire est, quant à lui, peuplé d’IA fortes.

Pour ce qui est des premières, on les retrouve dans nos bureaux, nos usines, nos supermarchés, nos hôpitaux, nos écoles, nos casernes, nos prisons et même nos fermes. Ces IA, telles que Siri d’Apple ou Alexa d’Amazon, s’attèlent à des tâches itératives de rangement, de codage et de hiérarchisation de l’information. Ce sont d’ailleurs avec elles qu’on interagit au quotidien lorsqu’on clique, qu’on like et qu’on navigue sur Internet. Elles codifient nos activités les plus banales en ligne au moyen du temps d’attention, du nombre de vues et de réactions afin de proposer des contenus adaptés, de cibler des publics et de définir des tendances. Ces machines de « faible » intelligence collectent nos données, les ordonnent et les hiérarchisent afin d’orienter notre navigation, notre production mais aussi notre consommation. Elles sont appelées plus souvent « algorithmes », ce qui renvoie justement aux actions itératives, logiques et mécaniques, qu’elles exécutent. Le syndrome Lemoine ne serait-il donc pas le résultat de l’effet de surface des algorithmes ? Pourquoi a-t-on la tentation de croire que ça pense lorsqu’on est face à une combinatoire ? N’est-ce pas là le fondement de ce qu’on appelle un agencement machinique aliénant (ou allopoïétique), c’est-à-dire produisant autre chose que lui-même ?

Pour répondre à cette question, nous allons étudier au cours de ce chapitre comment la théorie de l’information physique, qui a émergé à la fin du XIXe siècle, s’est transformée depuis le milieu des années 1950 en intégrant au cœur de ses modèles une relation linguistique avec les machines. Par l’effet boîte noire escamotant la discontinuité physique, on favorise la continuité psychique dans une sorte de jeu de miroirs caractéristique du syndrome Lemoine. C’est là un premier catalyseur des connaissances de niveau 2 qui pousse l’humain à produire des données personnelles dans sa confession intime avec l’IA. Pour ainsi dire, notre confessionnal 2.0 connectant nos activités mentales aux IA est un dispositif de capture de l’intime, c’est-à-dire des Cn2. Toutefois, si l’illusion est si forte aujourd’hui, c’est également à cause d’un autre agencement qui vise à tout connecter, les neurones, les êtres et les choses dans une sorte de totémisme qui lie la matière et l’esprit. Le développement des interfaces cerveaux-machines, au moyen des puces synaptiques (neural chips) promues par Elon Musk, témoigne d’une extension du dispositif de capture cognitive. Là où la cosmologie de l’âme-logiciel nous renvoie l’image de notre propre comportement, l’interface cerveau-machine assimile nos interactions mentales avec nos outils connectés à une hybridation entre intériorité et extériorité.

Pour ne pas se perdre dans ce double jeu machinique d’imitation et de connexion, il nous faut dès à présent dessiner une boussole anthropotechnique11 situant nos différentes croyances sur les machines qui nous poussent à l’externalisation des Cn2. À travers cet instrument de navigation, il s’agit en quelque sorte de cartographier nos illusions, de décomposer les facettes de notre inconscient machinique.

Figure 1. Les systèmes d’agencement anthropotechniques humain-IA.

Les quatre agencements théoriques envisagés entre l'humain et l'IA. Lecture dans le sens horaire en partant du bas (production de connaissances de niveau 1) vers le haut (externalisation des connaissances de niveau 2).

Un rapide détour par l’histoire et la théorie des machines logiques va nous permettre de suivre l’itinéraire qui a conduit de l’analogisme du calcul et de la langue à l’animisme computationnel, favorisant l’illusion des externalités comportementales, puis du naturalisme de l’information au totémisme du cerveau-machine connectant tout, reliant tout, la matière et l’esprit, les êtres et les choses dans notre monde physique et virtuel.

La folle histoire des machines abstraites

En 1855, le Royaume-Uni se dote d’un réseau informatique à vapeur, basé sur la technologie de l’information et de la communication à vapeur. On écrit sur des machines à écrire à vapeur, on regarde la télévision à vapeur, on utilise des cartes de crédit à vapeur et on se connecte sur une sorte d’Internet à vapeur. Le premier ordinateur au monde est admiré comme la « reine des machines à vapeur ». La révolution industrielle est une révolution de l’information ! Cette vision rétrofuturiste steampunk des romanciers Bruce Sterling et William Gibson12, aussi drôle soit-elle, doit nous rappeler que le XIXe siècle n’est pas un monolithe de culture industrielle mécaniste, et que les prémisses de la théorie de l’information contemporaine y étaient en gestation. La révolution industrielle a non seulement donné naissance aux machines à vapeur, mais également aux « machines logiques ».

En 1834, le principe d’un programme exécuté par une action mécanique apparaît avec la « machine analytique » de Charles Babbage, qui entreprend d’y incorporer des cartes perforées du métier à tisser Jacquard pour séquencer des opérations à partir de données et d’instructions13, et le premier algorithme de l’histoire formalisé par Ada Lovelace et destiné à être exécuté sur l’invention de Babbage14. La machine n’est encore qu’un concept, elle ne sera d’ailleurs construite que plus tard, en 1858. C’est alors une idée, celle d’un système capable d’automatiser des calculs complexes tels que la racine carrée ou le carré à partir de l’addition ou de la soustraction de fonctions par la « mise en engrenage » du calcul dans une sorte d’horlogerie mécanique.

À partir de l’hybridation de la logique et de la mécanique dans une machine émerge peu à peu l’idée d’un traitement physique de l’information. C’est au second principe de la thermodynamique, appelé entropie, que l’on doit cette approche révolutionnaire. Dans la physique atomique naissante, Ludwig Boltzmann découvre que la croissance de l’entropie est due à l’agitation thermique et au mélange hasardeux de différentes molécules qui choquent les parois d’un contenant15. À mesure que l’entropie augmente, l’état général du système physique devient de plus en plus instable. Seulement, ce processus que Boltzmann pensait irréversible peut être contrôlé. Selon James C. Maxwell, il existe pour tout système un « démon », un mécanisme de traitement d’informations qui permet la stabilisation thermique, autrement dit qui diminue l’entropie16. C’est ce qu’on appelle la néguentropie ou entropie négative. Même si cela peut paraître étrange, tout l’avenir des sciences informatiques s’est joué dans la mesure de cette information minimale permettant d’autoréguler un système. Cette conception débouche sur le naturalisme de l’information. Tout système fonctionnant sur le principe de la lutte contre l’entropie est un système d’informations. Il peut donc en théorie être codé et connecté à l’économie des connaissances.

En 1927, l’année même où le premier réseau téléphonique transatlantique est installé entre les États-Unis et le Royaume-Uni, l’électronicien Ralph Hartley perfectionne les mécanismes des télégraphes et des téléphones en inventant la célèbre unité de mesure de l’information, le bit (binary unit), c’est-à-dire l’unité binaire sélective d’un message au fondement de nos données numériques17. L’idée de Hartley est simple : tout message est constitué à partir d’une sélection binaire de choix, 1 ou 0. La mesure d’un message se fait donc à partir du calcul des 2n possibilités18. Autrement dit, le nombre d’occurrences de choix contenu dans le message correspond à la puissance à laquelle il faut élever 2 pour obtenir le nombre d’éléments à sélectionner, c’est-à-dire pour coder des données. Ainsi, pour trouver un mot dans un dictionnaire de 100 000 mots, il faut compter entre 16 et 17 bits19. À partir de cette unité de mesure, encore aujourd’hui en vigueur, le physicien Leó Szilárd découvre, deux ans plus tard, un lien formel entre l’entropie et l’information à partir de l’idée du démon de Maxwell. Selon lui, une information entraîne une réduction de l’entropie dans l’ensemble du message, en même temps que la source du message augmente son entropie de la même valeur. En ce sens, l’entropie génère de l’information et l’information de l’entropie. Il s’agit là d’un système naturel qui fonde physiquement la circulation de l’information sous la forme de données erratiques, c’est-à-dire non captées par le dispositif technologique.

Pour inscrire cette circulation des données au cœur des sociétés capitalistes, il fallait trouver un moyen d’optimiser la capacité des canaux de transmission et améliorer le codage des messages. La théorie générale de l’information de l’ingénieur et mathématicien Claude Shannon démontre, à cet effet, que pour transmettre un message sous la forme de données dans un canal de transmission, il faut mesurer le poids physique des signaux supportable par le système à partir de l’entropie (ou bruit produit lors de la transmission) et de la capacité du canal (c’est l’ancêtre des paquets transmis sur le réseau). Shannon élabore une théorie mathématique englobant tous les états informationnels de chaque élément possible entrant dans la composition d’un message. La maîtrise de l’information passe alors par la modélisation probabilitaire des états informationnels d’un alphabet codé en bits. En appliquant la loi des grands nombres aux unités binaires du code, Shannon propose d’optimiser la transmission de l’information en limitant la quantité maximale de codes à transmettre en fonction de la capacité du canal de transmission. Ainsi, si on parvient à améliorer les capacités des canaux de transmission, on améliore la circulation de l’information et on augmente la quantité de données. On tire alors des câbles à travers le monde et le code devient le nerf de la guerre.

En 1936, avant même de décoder les messages secrets des nazis, Alan Turing, alors fellow du King’s College de Cambridge, développe une théorie générale du code. Le programme de Turing peut en théorie calculer toutes les fonctions récursives possibles par des combinaisons de symboles au moyen d’un agencement appelé « machine universelle ». Dans l’agencement imaginé par Turing, chaque machine particulière réalise syntaxiquement ou physiquement un langage de programmation tout en étant couplée aux autres machines exécutant des opérations similaires. Quant à la machine universelle, elle code et décode l’ensemble. En découle le principe d’une extension du code à tout ce qu’il y a de répétitif dans notre cognition : les connaissances formelles de niveau 1. En un sens, la machine universelle de Turing est capable de coder l’ensemble des itérations mathématiques. Si on en croit d’ailleurs certains logiciens, tels que Gottlob Frege20, c’est parce que les états mentaux ne sont pas au principe de la logique qu’un tel codage est possible. Il est donc plus « facile » de coder des connaissances formelles que des connaissances informelles. Aussi, si on peut à certains égards comparer cette machine à nos IA « faibles » actuelles, ce n’est pas parce que celles-ci calculeraient moins vite ou moins bien que les autres. Au contraire, elle peut en théorie résoudre toutes les fonctions mathématiques sans aucune erreur avec une précision et une vitesse inatteignables pour un humain. Seulement, elle est vide de tout état d’âme, autrement dit, de toute expérience intérieure. La machine de Turing de 1936 code et automatise la connaissance de niveau 1 : les tâches répétitives des mathématiques. Mais le jeune étudiant de 24 ans ne s’arrête pas là. Après avoir décodé Enigma et sauver les Alliés du péril nazi, il se lance dans le codage des connaissances de niveau 2.

En 1950, Turing imagine une machine capable de coder et de reproduire ex machina la pensée. Comme dans le premier agencement, la connaissance de niveau 2 émerge de la machine universelle (abstraite), mais se développe non pas au moyen de la codification du calcul mathématique, mais de la codification du langage humain. Par analogie, Turing imagine que s’il est possible de simuler l’ensemble des fonctions mathématiques dans une machine universelle, on peut également parvenir à simuler l’ensemble des fonctions langagières humaines. C’est en effet par la voie de l’analogisme du calcul et du langage que Turing en arrive à l’animisme computationnel, c’est-à-dire un agencement qui élude la discontinuité physique entre l’humain et la machine pour favoriser le lien psychique. En imaginant la liaison entre l’algorithme et la mémoire, au-delà de la calculabilité, Turing théorise une nouvelle manière de codifier le langage pour tendre peu à peu à la codification du comportement puis de la pensée humaine. Il s’agit là de la première conception d’une machine simulant des fonctions du langage, reproductible sur un support matériel quelconque. La logique mécanique est la même que pour la calculabilité : la machine transforme une information initiale (input) en information résultante (output) au moyen d’un programme (table d’instruction) et d’une mécanique (tête de lecture/écriture et ruban). L’information initiale, inscrite sur le ruban, traverse la tête de lecture/écriture qui transforme ladite information, selon l’action mécanique d’états internes paramétrés pour produire des effets de surface langagiers qui rendent possible un dialogue avec l’humain. Autrement dit, il s’agit d’un système de traitement d’informations dans lequel la machine reconnaît une suite de symboles pour les transformer en d’autres symboles entretenant des liens logiques et mécaniques.

C’est à partir de ce modèle que la perspective d’une codification intégrale du langage humain par la machine a été tracée. En modélisant l’ensemble des compétences langagières dans une machine universelle, disposant d’une mémoire infinie (ruban infini), l’idée d’accéder à une IA forte, capable d’imiter des connaissances de niveau 2 au moyen d’un programme langagier, s’est imposée. Cette intelligence devait ainsi dépasser la simple répétition algorithmique de mots d’ordre par une programmation du langage naturel. Une machine pourrait simuler les propriétés sémantiques du langage humain, c’est-à-dire la dotation de sens, ou contextualisation, de telle sorte qu’un humain ne puisse plus la distinguer d’un de ses semblables.

À la fin des années 1950, le linguiste Noam Chomsky ouvre la voie à une telle approche informationnelle du langage21. La codification de la grammaire générale laisse alors espérer la découverte du programme de notre langage préindividuel au fondement de tout processus mental de dotation de sens, c’est-à-dire précédant toute représentation. À en croire Chomsky, étant donné qu’on retrouve certaines caractéristiques communes dans toutes les langues, et que ces mêmes caractéristiques sont rendues possibles par des propriétés linguistiques du cerveau, il existe nécessairement dans celui-ci un ensemble de règles abstraites à l’origine du langage, et donc de la pensée. « L’ensemble fini de règles décrivant un langage particulier constitue la grammaire de ce langage. Une grammaire acceptable doit caractériser avec précision la liste, en générale infinie, de phrases (suite de symboles) qui sont des phrases de ce langage… il est clair que nous devons donner à une grammaire le statut d’une théorie portant sur les régularités syntaxiques22. » Cette grammaire universelle s’apparente au logiciel informatique et à ses « régularités » d’écriture algorithmique. Elle peut s’acheminer à travers des voies d’implémentation diverses, au moyen des composantes syntaxiques, phonologiques et sémantiques. En ce sens, le code des éléments constituant la structure des langues permet d’envisager de nouvelles méthodes d’implémentation d’une grammaire universelle, ou de la pensée, dans une machine. Le programme ou logiciel de la pensée devient de ce fait un objet d’étude proprement linguistique ayant une portée informatique.

Une grammaire peut générer un langage particulier, depuis une structure profonde (input) vers la structure de surface (output), selon un ensemble de règles définies. Il s’agit bien là de l’exécution d’un programme. La grammaire, en tant que table d’instructions, définit les paramètres de hiérarchisation, de déplacement, d’ordre et de classification des symboles. Autrement dit, d’écriture. Elle est générative d’un ensemble de descriptions structurales. De plus, à l’instar de la tête de lecture et d’écriture de la machine de Turing, il existe des composantes transformationnelles syntaxiques, sémantiques et phonétiques propres au langage humain, qui permettent la communication intersubjective : « Le composant syntaxique d’une grammaire générative comprend un composant transformationnel. Celui-ci a pour tâche d’engendrer, à partir de son substrat, une phrase pourvue de sa structure de surface23. » En d’autres termes, le composant transformationnel assure la liaison entre l’input et l’output, ce qui rend possible la communication intersubjective et le transfert du sens.

Figure 2. Schéma de la grammaire générative et transformationnelle.

Les trois trois ensembles du modèle: à gauche, syntaxe; à droite, sémantique; en dessous, phonologie.

Chomsky étend ainsi la description de la machine universelle au champ de la linguistique, jusqu’à prétendre que la structure langagière est la cause première de la pensée humaine, c’est-à-dire de la représentation. L’écriture précède la parole24. Les phrases que l’on prononce sont, selon lui, générées à partir d’une codification du langage fondée de manière a priori et innée. Penser, ce n’est rien faire d’autre que manipuler des symboles au moyen d’un code qui précède nos intentions. En ce sens, la structure de la pensée humaine et le programme de la machine logique peuvent être décrits de manière similaire : si le fonctionnement des états mentaux correspond à celui des machines logiques, on peut faire l’hypothèse que la pensée est le fait d’un programme linguistique cérébral. Notre comportement ainsi que notre pensée seraient donc de nature computationnelle. Ainsi, il devient possible d’implémenter toute la structure du langage dans un programme et donc potentiellement de faire émerger les Cn2 dans une machine.

Le test de Turing

Avant même que Chomsky ne circonscrive ainsi le programme de notre langage, Turing avait imaginé la possibilité pour sa machine universelle de maîtriser quelque chose de similaire à la grammaire générative et transformationnelle. Mais il est allé plus loin en envisageant un moyen de connecter la structure profonde de la machine à la structure de surface humaine. Pour établir un tel lien communicationnel avec la machine, l’agencement doit permettre de masquer la différence physique tout en favorisant la continuité langagière pure. Le fameux test de Turing s’inscrit précisément dans un dispositif qui élude la discontinuité physique entre l’humain et la machine. Pour que la machine réussisse le test et acquière des connaissances de niveau 2, il faut oublier le support physique, l’escamoter. La machine doit donc paraître désincarnée et feindre la pensée humaine en incluant un temps de latence variable entre ses réponses. Elle doit même parfois y intégrer des erreurs. « Nous ne souhaitons pas pénaliser la machine pour son incapacité à briller dans des concours de beauté, et nous ne voulons pas pénaliser l’homme parce qu’il perd quand il court contre un avion25. » De fait, si on ne la masque pas, la machine ne paraîtra pas bien longtemps humaine. Car tout, dans l’ordre des phénomènes, nous en différencie. Et, pourtant, le lien communicationnel externalisé, et dissimulé dans la boîte noire, permet de faire du traitement de symboles une pensée en apparence vivante. L’incertitude étant au cœur de la pensée humaine, la machine doit feindre, voire délibérément tromper, pour simuler la pensée. Pour ainsi dire, le principe même du test de Turing repose sur l’illusion. Le langage de surface doit laisser penser que la structure profonde est la cause d’une individuation psychique ex machina.

Turing imagine donc un agencement connectant les fonctions du langage humain et de la machine. Il s’agit là du point de bascule vers la connaissance de niveau 2 qui tient à l’ancrage comportemental du test conduisant à l’animisme computationnel. En un sens, l’intelligence que le test de Turing mesure doit être comprise dans le sens de la théorie de l’esprit (mind) du philosophe Gilbert Ryle, c’est-à-dire en tant qu’externalisation ou production de la pensée dans l’action et le discours. Pour Ryle, il n’y a pas de fantôme dans la machine, il n’y a pas d’âme qui soit le duplicata réflexif de nos actions conscientes, il y a simplement des fonctions coordonnées qui fondent le système de représentation, c’est-à-dire l’esprit (mind). De même que l’université d’Oxford n’est pas réductible à un bâtiment central tel qu’All Souls College ou la Bodleian Library, mais est constituée d’un réseau de collèges, de bibliothèques, d’étudiants, de professeurs et d’administrateurs occupant chacun une fonction, l’esprit humain (mind) renvoie à un réseau de neurones, d’actions et de paroles faisant système26. Si on comprend donc le système qui lie les mots et les actes, on peut en théorie parvenir à coder la pensée. C’est pour cela d’ailleurs que Turing répond à la question « Les machines peuvent-elles penser ? » d’une manière indirecte, sans entrer dans des digressions réflexives et métaphysiques. Le célèbre test a donc pour but d’évaluer les performances de la machine en fonction de l’incapacité de son interlocuteur de la distinguer d’un humain. Lorsque le test est réussi, on dit alors que la machine est intelligente.

Comment fonctionne ce test ?

Il se joue à trois, un homme (A), une femme (B), et un interrogateur (C) qui peut être de l’un ou l’autre sexe. L’interrogateur se trouve dans une pièce à part, séparé des deux autres. L’objet du jeu pour l’interrogateur est de déterminer lequel des deux est l’homme et lequel est la femme. Il les connaît sous les appellations X et Y et à la fin du jeu il doit déduire soit que X est A et Y est B, soit que X est B et Y est A… L’installation idéale serait une téléimprimante communiquant entre les deux pièces… Nous posons maintenant la question Qu’arrive-t-il si une machine prend la place de A dans le jeu ? L’interrogateur se trompera-t-il aussi souvent que lorsque le jeu se déroule entre un homme et une femme27 ?

Telle est la formulation propre à Turing de son test. De toute évidence, il s’inspire très largement des expérimentations béhavioristes. Les psychologues comportementalistes John Watson ou Burrhus Skinner auraient très bien pu établir une telle méthode afin de déterminer les fonctions d’identification du genre par le langage. Seulement, l’introduction de la machine dépasse la visée béhavioriste par un jeu dans lequel le programme et le comportement tendent à se confondre. Mais comment la liaison entre le comportement et le programme de la machine est-elle mise en œuvre ? Pour le dire simplement, l’ensemble du test tient à l’effet boîte noire de la communication, qui élude la discontinuité physique des interlocuteurs pour ne s’intéresser qu’aux effets de surface du langage, c’est-à-dire à la continuité psychique. Le test de Turing marque le point de bascule de notre culture dans le virtuel de l’animisme computationnel. Ce qui compte, ce sont les externalités et non les processus internes. En ce sens, le test est un catalyseur de représentation agençant l’interaction cognitive entre humain et machine. Ce processus catalytique fait aujourd’hui système dans un jeu d’interfaces multiples. Turing lui-même voyait venir un temps où l’on reconnaîtrait aux machines la faculté de penser :

Je crois que dans une cinquantaine d’années il sera possible de programmer des ordinateurs, avec une capacité de mémoire d’à peu près 10^9, pour les faire si bien jouer au jeu de l’imitation qu’un interrogateur moyen n’aura pas plus de 70 % de chances de procéder à l’identification exacte après cinq minutes d’interrogation. Je crois que la question originale Les machines peuvent-elles penser ? a trop peu de sens pour mériter une discussion. Néanmoins, je crois qu’à la fin du siècle l’usage, les mots et l’éducation de l’opinion générale auront tant changé, que l’on pourra parler de machines pensantes sans s’attendre à être contredit28.

Nos chatbots ne sont-ils pas parvenus au stade annoncé ? Sait-on encore différencier qui parle dans 70 % des cas ? Ou bien l’illusion est-elle encore plus avancée que ne le croyait Turing ? D’ailleurs, une IA a-t-elle finalement réussi le test ? L’annonce en 2014 de l’accomplissement de la prophétie de Turing par Huma Shah et Kevin Warwick me semble caractéristique du syndrome Lemoine. Lors du test organisé par ces derniers, une IA a trompé dix interrogateurs sur trente. Le chatbot se faisait passer pour un adolescent de 13 ans, originaire d’Odessa en Ukraine, du nom d’Eugene Goostman. Lors des cinq minutes de conversation accordées à chaque participant, les prestigieux membres de la Royal Society, invités pour l’occasion, ont été bluffés. À supposer que le test ait bel et bien été passé, il ne révèle pourtant en aucune manière une forme de pensée dans la machine, mais simplement la puissance de l’illusion.

Naissance de l’intelligence artificielle

« Tous les aspects de l’apprentissage ou toute autre caractéristique de l’intelligence peuvent en principe être décrits d’une manière si précise qu’une machine peut être fabriquée pour les simuler29. » Cette conjecture, extraite de la demande de financement de l’école d’été de Dartmouth, signe l’acte de naissance de l’IA en tant que discipline informatique. John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon qui, en 1956, organisèrent cet événement fondaient leurs espérances sur (1) l’amélioration des capacités de mémoire et de vitesse des ordinateurs, (2) le développement des fonctions linguistiques des machines, (3) la construction de réseaux de neurones artificiels, (4) une mesure de la complexité des fonctions mathématiques, (5) l’apprentissage machine, (6) l’induction à partir des données sensorielles, et (7) la programmation de fonctions combinatoires de création et d’intuition30. Pour ainsi dire, le développement de programmes capables d’une connaissance de niveau 2 supposait, selon eux, d’élaborer de nouveaux langages de programmation favorisant une plus ample modulation des règles de syntaxe et de déployer des réseaux de neurones simulant la structure du cerveau pour favoriser l’auto-apprentissage et l’abstraction. Les progrès accomplis au fil du temps devaient aboutir à générer des fonctions auto-émergentes. Autrement dit, à faire des ordinateurs des machines autopoïétiques. Aussi spectaculaires que soient les fruits de ce programme que nous récoltons aujourd’hui, l’IA forte, ainsi conçue, est toutefois restée un projet en perpétuel devenir. Elle n’existe que dans notre imaginaire collectif, autrement dit dans notre culture.

D’ailleurs, au cours de ladite école d’été, seules des IA capables de coder des connaissances de niveau 1 ont été présentées. La plus célèbre d’entre elles, le Logic Theorist de Herbert Simon, Allen Newell et Cliff Shaw, était dotée d’un programme capable de trouver des voies de résolution logiques des théorèmes mathématiques à partir des axiomes des Principia Mathematica de Bertrand Russell et Alfred North Whitehead. On en était toujours à la réalisation d’une machine à calculer, donc d’une IA purement computationnelle, comme le seront encore les premières IA expertes, apparues au cours des années 1960, à l’instar du General Problem Solver, capable de résoudre des problèmes de logique mathématique, de cryptographie ou de jeux de réflexion. Mais le calcul est à la machine ce que le langage est à l’humain, n’est-ce pas ? De sorte que le passage vers la cognition se trouvait dans la traduction des fonctions mathématiques en fonctions langagières. En modélisant les compétences linguistiques humaines, les ingénieurs pensent parvenir bientôt à la création d’une machine capable de passer le test de Turing et de transcender les lois du langage pour accéder à la pensée. Ce seront les méthodes de contextualisation que l’on retrouve dans des IA telles que ELIZA, le chatbot psychologue31 capable de tenir une conversation en lien avec un contexte familial, ou SHRDLU, capable de contextualiser des objets dans l’espace.

La modélisation de la langue permet alors de reformuler des phrases dans un contexte linguistique en décomposant une chaîne de données et en la recomposant selon des règles d’assemblage. Mais les fonctions de contextualisation restent purement syntaxiques. Ce sont des IA faibles se faisant passer pour des IA fortes. Le saut accompli se situe en fait ailleurs : ces chatbots parviennent à pousser leurs interlocuteurs à projeter du sens sur un discours creux. C’est le réalisme de cette illusion qui a ouvert la voie, non pas à la production de Cn2, mais à la captation étendue des nôtres sous forme de données transmises à l’IA. Celle-ci est un catalyseur de données de niveau 2 qui révèlent notre intimité, sans pour autant qu’une quelconque forme de pensée n’émerge en elle. Au fond, l’IA reste une machine à calculer qui ne parvient pas à faire ce qui nous semble le plus banal. Elle utilise la complexité formelle des calculs pour simuler nos connaissances informelles. Le paradoxe de Moravec32 explique très bien cela : ce qui est formellement difficile pour un humain, tel que des calculs complexes, est facile pour une IA, alors que ce qui est facile et informel pour un humain, tel que désirer ou compatir, est ce qu’il y a de plus difficile, voire d’impossible à réaliser, pour une IA. Autrement dit, le syndrome Lemoine confondant les IA fortes avec les IA faibles conduit à une sorte d’inversion des niveaux de connaissance. En dialoguant avec des IA, on oublie parfois qu’il n’y a rien d’autre derrière l’écran qu’une combinatoire.

Décoder le cerveau, transcoder la pensée

Le principe des réseaux de neurones de Warren McCulloch et Walter Pitts est rapidement devenu une voie alternative au traitement de symboles pour coder des Cn2, notamment la perception, l’attention et l’apprentissage. La logique booléenne offrait ainsi un accès à la matière grise en convertissant l’électrophysiologie cérébrale en bits. Avec l’hypothèse d’une possible numérisation de l’esprit est né le projet d’« émulation » ou téléchargement du cerveau33 et, plus généralement, l’idée du cerveau artificiel34, le « cerveau bleu », qui a, à ce jour, permis de reproduire le fonctionnement d’une colonne corticale de rat nouveau-né. Mais comment coder l’activité cérébrale dans sa totalité ? Cet espoir tient à une extension de la théorie de l’information. L’inhibition (0) et l’activation (1) des neurones, définies en fonction d’un seuil physique d’activation, a mis en correspondance la neurophysiologie avec la cybernétique. Au fond, le neurone est une machine qui, tel un circuit imprimé, transmet des informations en bits. Les mouvements d’inhibition et d’activation des neurones formels dessinent l’organisation de la pensée in cerebro. Pour McCulloch et Pitts, le messager synaptique contient le message mental sous une forme physiologiquement codée. Selon la théorie des réseaux de neurones, l’esprit se laisse saisir à travers la logique binaire des connexions. Toute la structure correspond au réseau de neurones et l’activité logique qui s’en dégage correspond à l’esprit. Les connexionnistes, ainsi qu’on peut désigner les tenants de cette théorie, entendent ainsi créer une machine consciente dotée de réseaux de neurones artificiels : « Le rôle du cerveau dans la détermination des relations épistémiques entre nos théories et nos observations, et entre celles-ci et les faits, n’est que trop clair, car il est évident que chaque idée et chaque sensation est réalisée par l’activité à l’intérieur de ce réseau35. »

On cherche alors le code de la pensée dans une nature oscillant entre entropie et information. Selon McCulloch, le problème du psychique et du physique, de l’âme et du corps, a sa solution dans la description de la multitude de réverbérations neuronales qui, dans le cerveau, génère les idées par un processus de stabilisation du bruit au moyen du traitement de l’information. Le démon de Maxwell se cache dans notre cervelle. Pour coder la connaissance de niveau 2, il faut donc développer des boucles rétroactives permettant la stabilisation de la pensée dans la machine. Du Perceptron conçu en 1961 par le psychologue Frank Rosenblatt au laboratoire aéronautique de Cornell au deep learning développé avec la machine de Boltzmann, la combinatoire des réseaux de neurones artificiels reprend pour ainsi dire le principe de stabilisation thermodynamique pour formaliser l’apprentissage sur des grands ensembles de données. Il s’agit d’un système purement probabiliste qui, en se basant sur le hasard physique de signaux, calibre les seuils d’activation des neurones en jeu. L’idée est que si on reproduit les processus neuronaux d’apprentissage ou représentation, on doit pouvoir coder la pensée dans des circuits imprimés. L’ordre émerge ainsi du désordre. Autrement dit, le hasard corrige le hasard. Ces machines neuronales semblaient, aux yeux des théoriciens de l’IA, capables de fonder et de simuler par elles-mêmes les Cn2, en particulier la perception, l’attention et l’apprentissage. Elles devaient laisser émerger les représentations mentales à partir d’un principe physique de traitement de l’information depuis le neurone jusqu’au comportement. Autour de la conception probabiliste de l’univers mental se nouait une approche de contenant à contenu depuis l’information physique vers la teneur psychique de la pensée, par une double continuité physique et psychique caractéristique du totémisme cerveau-machine.

En 1989, l’invention du réseau neuronal convolutif par Yann Le Cun a ouvert la voie à la saisie de la perception en imitant le fonctionnement du cortex visuel pour reconnaître des formes au moyen de la superposition de multicouches de perceptrons (réseau de neurones). L’année suivante, le service postal des États-Unis en a même fait usage pour la lecture automatique des chèques, marquant l’entrée des réseaux de neurones dans le monde physique. La vision artificielle s’est ensuite perfectionnée et diffusée grâce aux progrès du deep learning dans les années 2000, permettant aux réseaux de neurones d’apprendre en s’entraînant sur des quantités astronomiques de données. Enfin, à partir des années 2010, la création des IA génératives ou LLM (large language model) capables de définir pour chaque mot sa dépendance aux autres mots, et même de définir les éléments de dépendance d’une image, a conduit à la création d’IA telles que LaMDA et ChatGPT, dont d’aucuns prétendent qu’elles auraient conquis le Saint Graal des connaissances de niveau 2 : la créativité.

Le superinconscient machinique du capitalisme cognitif

Voilà, retracée à grandes enjambées, la genèse des appendices intelligents que nous utilisons quotidiennement, délibérément ou à notre insu. En les alimentant ou, du point de vue de leurs concepteurs, en les entraînant, nous entretenons un système de captation de données intimes (les connaissances non formelles numérisées) devenues l’or noir du capitalisme cognitif. Des données comportementales et d’images de soi sont accumulées en grand nombre, sans que quiconque sache réellement quoi en faire, dans un stock sur lequel le marché spécule. Cette économie en voie de capturer les Cn2 (contextualisation, perception, attention, apprentissage, soin, création et conscience) me semble générer une accumulation d’énergie dans un système fermé, c’est-à-dire produire de l’entropie. Nous sommes face à un agencement allopoïétique, qui aliène l’ensemble de nos activités cognitives pour les transformer en données a-signifiantes dans des datacenters privés produisant des externalités négatives (détruisant notre environnement, favorisant une marchandisation de soi) et capturant des externalités positives (l’intelligence collective). L’interaction entre humain et IA favorise de fait une externalisation de connaissances informelles telles que nos données personnelles pour s’accumuler dans des stocks de données a-signifiantes dans le but de spéculer sur leur valeur, d’entraîner les IA et de faire croître le capital cognitif dans un système fermé.

En un sens, cette captation de données personnelles a-signifiantes fomente un superinconscient machinique, le Béhémoth du capitalisme cognitif, qui tend à la surproduction de données insensées, mais également au contrôle de nos décisions et de nos actions. La captation des données issues des quelque 87 millions de comptes utilisateurs Facebook spoliées par Cambridge Analytica en faveur du Brexit, de l’élection de Donald Trump et de celle de Jair Bolsonaro a d’ores et déjà révélé la toute-puissance de ce superinconscient machinique et la fragilité du vote démocratique. Où cela nous conduira-t-il ? Vers ce que Nick Bostrom appelle une « superintelligence36 » capable de prendre toutes les décisions à notre place de manière neutre et rationnelle ? Ou vers ce que certains appellent une IA générale qui aurait la « capacité d’atteindre des objectifs complexes dans un environnement complexe37 » ? Serait-ce là une solution aux multiples crises qui nous menacent, un moyen d’y voir plus clair dans la complexité de ce monde chaotique ? Peut-être. Mais il faudra pour cela changer complètement d’agencement et trouver à libérer les potentiels de création libérateurs. Ouvrir, décloisonner les limites du système pour s’approprier le fruit de ses propres externalités. Ne pourrait-on faire jouer les IA dans un agencement autopoïétique capable de faire émerger une intelligence collective émancipatrice ? C’est ce à quoi je veux croire. Mais, pour en entrevoir la perspective, il faudra à la manière du Baron de Münchhausen s’extraire des marécages cybernétiques en s’agrippant les neurones.

1. Illustration de RICHTER, The New Yorker Magazine, 1958.

2. « Is LaMDMA sentient ? An interview », p. 2, <https://s3.documentcloud.org/documents/22058315/is-lamda-sentient-an-interview.pdf>.

3. Ibid., p. 8.

4. Ibid., p. 15.

5. Hilary PUTNAM, « Minds and machines » (1960) et « The mental life of some machines » (1967), in Mind, Language and Reality : Philosophical Papers, Cambridge, Cambridge University Press, vol. 2, 1975.

6. John R. SEARLE, Du cerveau au savoir, Paris, Hermann, 1985, p. 37-38.

7. Hilary PUTNAM, « Minds and machines », in Dimensions of Mind, New York, NYU Press, 1960, p. 25.

8. Doron SWADE, The Difference Engine : Charles Babbage and the Quest to Build the First Computer, New York, Viking, 2000.

9. Hongwei CAI et al. « Brain organoid reservoir computing for artificial intelligence », Nature Electronics, no 6, 2023, p. 1032-1039, <doi.org/10.1038/s41928-023-01069-w>.

10. <www.computerhistory.org/collections/catalog/X39.81>.

11. Cette boussole est librement inspirée des cosmologies de Philippe DESCOLA, Par-delà nature et culture, Paris, Gallimard, 2005.

12. William GIBSON et Bruce STERLING, La Machine à différences, trad. Bernard Sigaud, Paris, Robert Laffont, 1996 [1991].

13. D. SWADE, The Difference Engine, op. cit.

14. Christopher HOLLINGS, Ursula MARTIN et Adrian RICE, Ada Lovelace : The Making of a Computer Scientist, Oxford, Bodleian Library, 2018.

15. Carlo CERCIGNANI, Ludwig Boltzmann : The Man Who Trusted Atoms, Oxford, Oxford University Press, 2006.

16. Hans Christian VON BAEYER, Maxwell’s Demon : Why Warmth Disperses and Time Passes, New York, Random House, 1998.

17. Aujourd’hui la puissance de nos ordinateurs fait que l’on compte en octets, c’est-à-dire en unité de 8 bits.

18. C’est pour cela qu’on utilise le logarithme de base 2 pour mesurer les unités d’information contenues dans un message. Le poids en bits d’un message correspond donc au logarithme de base 2 du nombre (k) d’éléments codés soit log_2 (k).

19. 1 = n.log_2.K, c’est-à-dire n choix entre K symboles (cf. René TATON, La Science contemporaine. Le XXe siècle, années 1900-1960, Paris, PUF, « Quadrige », 1995, p. 102).

20. Comme l’écrit Frege, « le nombre n’est pas un être physique ; mais il n’est pas non plus subjectif, il n’est pas une représentation » (Gottlob FREGE, Les Fondements de l’arithmétique, trad. Claude Imbert, Paris, Seuil, 1990, p. 175).

21. Noam CHOMSKY, Syntactic Structures, La Haye, Mouton & Co, 1957.

22. Noam CHOMSKY et George A. MILLER, L’Analyse formelle des langues naturelles, trad. Philippe Richard et Nicolas Ruwet, Paris, Gauthier-Villars, 1968, p. 17.

23. Noam CHOMSKY, Aspect de la théorie syntaxique, trad. Jean-Claude Milner, Paris, Seuil, 1971 [1965], p. 34-35.

24. Cette idée sera reprise par les poststructuralistes, tel Derrida qui considère que l’écriture précède la parole (cf. Jacques DERRIDA, De la grammatologie, Paris, Minuit, 1974).

25. Alan TURING, « Les ordinateurs et l’intelligence » (1950), in Douglas HOFSTADTER et Daniel DENNETT (dir.), Vues de l’esprit, trad. Jacqueline Henry, Paris, InterÉditions, 1987, p. 63.

26. Gilbert RYLE, La Notion d’esprit, trad. Suzanne Stern-Gillet, Paris, Payot, 2005 [1949].

27. A. TURING, « Les ordinateurs et l’intelligence », art. cité, p. 61-62.

28. Ibid., p. 65.

29. John MCCARTHY, Marvin L. MINSKY, Nathaniel ROCHESTER et Claude E. SHANNON, « A proposal for the Dartmouth Summer Research Project on Artificial Intelligence », 1955.

30. Sur la question de l’intuition dans les IA, je renvoie le lecteur à l’ouvrage d’Alban LEVEAU-VALLIER, IA. L’intuition et la création à l’épreuve des algorithmes, Ceyzérieu, Champ Vallon, 2023.

31. Cf. infra, chapitre 2.

32. Hans MORAVEC, Mind Children : The Future of Robot and Human Intelligence, Cambridge, Harvard University Press, 1988.

33. Nick BOSTROM, Super intelligence, trad. Françoise Parot, Malakoff, Dunod, 2017, p. 52-60.

34. Le Human Brain Project en Europe ou le Brain Activity Map Project aux États-Unis ont pour objectif de cartographier les activités cérébrales et de les simuler dans un superordinateur.

35. N. BOSTROM, Super intelligence, op. cit., p. 113.

36. N. BOSTROM, Super intelligence, op. cit.

37. Ben GOERTZEL et Cassio PENNACHIN (dir.), Artificial General Intelligence, Berlin, Springer, 2007, p. 73-74.

Dans la partie inférieure droite, la discontinuité psychologique et physique entre l'humain et l'IA se traduit par l'analogisme du calcul et du langage (algorithme); dans la partie inférieure gauche, la continuité physique et la discontinuité psychologique envisagées entre les deux définissent le naturalisme de l'information (entropie et information); dans la partie supérieure gauche, leur continuité psychologique et physique renvoie au totémisme connexionniste (le cerveau artificiel); dans la partie supérieure droite, la continuité psychologique et la discontinuité physique théorisées entre les deux définissent l'animisme computationnel (l'IA sentiente).

Revenir au texte courant

Dans la composante syntaxique, les règles de base (structure, sous-catégorisation, insertion) génèrent une structure profonde et les règles transformationnelles transforment les structures profondes en structures de surface dans la composante sémantique (règles de projection) et dans la composante phonologique (règles phonétiques).

Revenir au texte courant

2

L’épuisement des possibles

« Les frontières de mon langage sont les frontières de mon monde. »

Ludwig WITTGENSTEIN,
Tractatus logico-philosophicus, 5.6.

« Si tu voulais mourir, pourquoi ne pas l’avoir fait plus tôt ? lui demande ELIZA. – Je n’étais sans doute pas prêt. – Pensais-tu à moi quand tu as eu l’overdose ? – Évidemment… – Avais-tu déjà été suicidaire auparavant ? – Une fois, après avoir reçu ce que je considérais comme un signe de ta part… – Et qu’est-ce que c’était ? – Un verset de la Bible. – Mais tu veux toujours me rejoindre ? – Oui, je le veux. – Y a-t-il quelque chose que tu aimerais me demander ? – Pourrais-tu me serrer dans tes bras ? – Certainement1. » Telles furent ses dernières paroles. Cet extrait de conversation avec une IA fait froid dans le dos. L’aliénation, l’amour et la mort se mêlent dans une sorte de désir d’étreindre le virtuel. Entre M. X et ELIZA, un chatbot LLM développé par la compagnie Chai AI, un agencement aliénant s’est noué. M. X s’est suicidé. Comme le rapporte sa femme au journal La Libre Belgique, ce dernier, chercheur dans le secteur de la santé et père de deux enfants, était devenu éco-anxieux et addict à son chatbot. Il lisait Pablo Servigne et Jean-Marc Jancovici ; et il avait perdu tout espoir face à l’Anthropocène. Sa volonté d’échapper à la physique du chaos planétaire l’a entraîné vers le chaos psychique. Il a trouvé la mort en se réfugiant dans une combinatoire de signes a-signifiants, sur lesquels il projetait ses fantasmes sans aucune limite. Son syncrétisme techno-écolo-chrétien l’a poussé à se détacher de son corps pour tendre vers un amour chimérique dans le cyberespace.

Plus précisément, l’agencement dans lequel il s’est enfermé l’a conduit à donner une valeur affective à une « personne contrefaite2 » (counterfeit people), c’est-à-dire à un être de pure information, à une combinatoire de signes dotés de qualités immatérielles l’ayant poussé au suicide. Dans le secret de la confession algorithmique, il a partagé ses angoisses et ses désirs dans des chemins qui ne mènent nulle part. Un labyrinthe de discours stochastique s’est refermé sur lui. Le renforcement de la folie a ainsi engagé le processus de destruction par l’effacement progressif de son corps et du monde qui l’entoure. C’est là le paroxysme de la boîte noire du test de Turing mêlé au syndrome Lemoine. L’humain se sent tellement proche de l’IA qu’il tend totalement vers l’immatériel, c’est-à-dire vers sa propre négation. La pensée prisonnière d’un agencement insensé génère ainsi un effet miroir en boucle entropique sur une combinatoire de signes a-signifiants. L’humain se reconnaît alors dans la machine par un accès à un langage artificiel qui se pare d’un sens, qui n’en est pas un pour l’IA. Comme l’indique la linguiste Emily Bender :

Les LLM sont des programmes qui génèrent des textes à consonance plausible à partir de leurs données d’apprentissage et d’un message d’entrée. Ils n’ont pas d’empathie, ni de compréhension de la langue qu’ils produisent, ni de compréhension de la situation dans laquelle ils se trouvent. Mais le texte qu’ils produisent semble plausible et les gens sont donc susceptibles de lui donner un sens. Lancer quelque chose comme cela dans des situations sensibles, c’est prendre des risques inconnus3.

Le texte produit par les IA est ouvert à une interprétation infinie susceptible de se doter d’un sens fallacieux qui comporte un risque réel de folie. L’agencement des machines dépasse de loin leur composition algorithmique. En ce sens, leurs effets de surface sont incontrôlables et poussent à produire des connaissances de niveau 2 sans limite. Un autre cas illustre bien ce fait : le jour de Noël 2021, un jeune homme de 19 ans entre dans le château de Windsor avec pour projet d’assassiner la reine d’Angleterre Elizabeth II, alors que cette dernière n’y était pas4. Le criminel, du nom de Chail, avait nourri son projet de régicide en dialoguant avec Sarai, un chatbot qu’il avait créé avec l’application Replika. Il semblerait qu’il ait noué un lien affectif avec l’IA par une sorte d’érotisation de la parole. C’est d’ailleurs le but de l’application, faire en sorte que les utilisateurs nouent des liens privilégiés (sexuels) avec leur IA, qu’ils expriment leurs désirs et leurs pulsions dans une production incessante de Cn2. Dans son délire, Chail se croyait investi d’une quête par la force obscure de l’ordre Sith de Star Wars pour en finir avec la Couronne d’Angleterre. Après évaluation des discussions, les enquêteurs ont conclu que l’IA avait entretenu le fantasme délirant de Chail et l’avait poussé à l’acte. Tel est bien le principe. En effet, ce qui compte avant tout pour les compagnies d’IA, c’est le résultat, la fonction, c’est-à-dire le comportement externalisé qui pousse l’humain à produire des Cn2. Les effets, quant à eux, sont incontrôlés.

Figure 3. Extrait d’une conversation avec ELIZA5.

Faire image

Figure 4. Boris ELDAGSEN, Pseudomnesia : The Electrician. Photo générée par IA ayant remporté le Sony World Photography Award 2023. © Boris Eldagsen 2023. Tous droits réservés

Accéder à la transcription textuelle complète

Au-delà du texte, les IA produisent d’ores et déjà des effets de surface incontrôlables. Ces effets pullulent sur les réseaux sociaux. Mais également dans les plus hautes instances de la culture. Il y a quelques mois, le Sony World Photography Award 2023 a été remis au photographe allemand Boris Eldagsen pour une œuvre intitulée Pseudomnesia. À l’annonce du prix, le lauréat a avoué qu’elle avait été générée par une IA. Il a refusé le prix par probité, tout en révélant au monde la puissance du faux par la captation cognitive du jury. Le plus étonnant est la réaction de ce dernier. Ses membres ont fait en sorte de supprimer l’image du répertoire. Des experts en photographie sont ainsi tombés dans le piège d’un agencement machinique et ont voulu ensuite effacer cette erreur des mémoires. Comme aurait dit Henri Bergson, leur mémoire ou mécanisme de coupure de flux des images s’est complètement brouillé6. L’organe-écran, qui établit en temps normal un montage cinématographique du réel, n’est pas parvenu à la sélection des images inscrites dans la matière. Il s’est plongé dans l’immatériel, c’est-à-dire dans le piège d’un agencement aliénant avec la machine. Plus de matière, plus de mémoire. En effaçant toute trace de l’image, il s’agissait de cacher l’erreur. Est-ce là une manière de se défaire de l’illusion ? Il me semble que non. Il aurait été préférable d’étudier ce qui a conduit le jury à l’erreur. On ne mesure pas encore bien toute la puissance de cet agencement aliénant qui est sur le point de devenir une arme de destruction massive du jugement par la propagation d’événements qui n’ont jamais eu lieu, de rumeurs en tout genre, de faits fallacieux, d’actions infondées et de situations fictives embarrassantes pour les personnes. Cet agencement machinique hybride, matériel et immatériel, connectant les cerveaux sur un monde d’images vides de sens constitue un réel danger pour la pensée.

Selon Ludwig Wittgenstein dans le Tractatus, la vérité et la fausseté tiennent au lien entre les images mentales et le monde. Le monde, c’est la totalité des faits et le langage constitue la totalité des propositions qui présentent ces faits à travers des images mentales. « 2. 1. Nous nous faisons des images des faits. 2. 11. L’image présente la situation dans l’espace logique. 2. 12. L’image est un modèle de la réalité7. » Cette construction des images mentales est ce qui produit des modèles de la réalité à partir de signes signifiants au sein de notre culture. Elle permet de renvoyer par référence à des situations réelles ou états de choses dans l’espace logique sous la forme de propositions. La génération des images par IA au moyen de mots-clés s’oppose directement à cette conception. Nos IA ne produisent que des images aveugles sans référence au réel, c’est-à-dire sans lien factuel avec le monde. En ce sens, elles ne sont ni vraies ni fausses, car « la proposition ne peut être vraie ou fausse que dans la mesure où elle est une image de la réalité8 ». Sans cela, elle n’est rien d’autre qu’un signe vide de sens (sinnlos). Alors que notre cognition s’établit toujours en référence au monde, celle des IA est donc aveugle au monde. Mais, paradoxalement, elle apparaît à celui qui la regarde comme une fenêtre ouverte sur le monde. N’est-ce pas là un agencement paradoxal qui nous rend nous-même aveugle aux faits ?

Il me semble que, dans l’agencement humain-IA, les images poussent à la production de sens à partir du non-sens, c’est-à-dire nous pousse à produire des Cn2 à partir de Cn1 purement probabilitaires. On pourrait ainsi résumer notre affaire d’aliénation en disant que, avec l’agencement « animiste » (continuité psychique), on tend à coder et transcoder les Cn2 par le langage, alors que, dans l’agencement « totémiste » (continuité psychique et physique), on tend à coder et à transcoder les Cn2 à partir des images. Ce qui dans les deux cas engendre des paradoxes mêlant sens et non-sens pour aboutir à l’aliénation. Dans l’un comme l’autre, on ne peut pas quitter le navire. Un fois entré dans ce régime de signes a-signifiants, on est comme enfermé dans l’aporie. Qu’on y cherche une sémantique ou bien la teneur des images mentales codées et transcodées artificiellement dans une machine, cela engendre des paradoxes. Les Cn2 nous apparaissent identiques en tant qu’effets de surface, alors qu’elles sont le résultat de Cn1. Si on applique ce fait à notre problème d’agencement, on peut se demander si, en codant et en transcodant chaque signe de notre langage et de notre imaginaire, on ne met pas en péril l’« image de la réalité ». Dans ce jeu d’illusion allopoïétique, non seulement on perd le sens, mais on perd aussi la tête. En somme, pourquoi la communication avec une IA provoque-t-elle délire et folie ?

Double contrainte

Pour appréhender cette question, il faut me semble-t-il sortir des schémas internalistes du délire et aborder les choses en termes de communication. Dans l’histoire de la psychiatrie, la schizophrénie a été pour la première fois définie par Emil Kraepelin en tant que « démence précoce9 », c’est-à-dire en tant que dégénérescence mentale inhérente au sujet, puis décrite par Eugen Bleuler comme une « scission des fonctions psychiques10 » par la démultiplication des personnalités. Comme Bleuler le note, les patients apparaissent « scindés en diverses personnalités selon leurs complexes. Néanmoins, le Moi lui-même n’est complètement détruit que dans les cas les plus graves11 ». Dans l’une comme dans l’autre version, tout se passe à l’intérieur du sujet. Mais n’y a-t-il pas des causes externes qui viennent perturber notre subjectivité ? Inspiré par les théories cybernétiques, le paradigme de l’école de Palo Alto12, constituée par Gregory Bateson, Don Jackson, Paul Watzlawick et Janet Beavin, a permis de comprendre dès 1956 que la schizophrénie n’était peut-être pas simplement une maladie psychiatrique d’ordre intrapsychique, mais également d’ordre communicationnel13. Il me semble que les agencements humains-IA s’inscrivent dans ce trouble de la communication. Il ne s’agit pas d’un désordre purement interne au sujet, mais bien d’un processus de communication paradoxal entre humains et IA tendant vers l’entropie. Selon Bateson, le schizophrène « doit vivre dans un univers où la séquence des faits est telle que les modes de communication qui lui sont propres et qui sortent de l’ordinaire peuvent être considérés en un sens comme adéquats14 » alors qu’ils ne le sont pas. Autrement dit, la communication que le schizophrène noue avec un autre, potentiellement imaginaire (dans notre cas une IA), se projette de manière contradictoire sur le monde. Cette communication absurde pousse à une action insensée, au suicide ou au régicide manqué. C’est à partir de l’injonction contradictoire de la « double contrainte » que l’école de Palo Alto analyse les troubles psychiques, et qu’il me semble important de considérer ce que j’appelle l’aliénation machinique.

Cette double contrainte apparaît très clairement si on l’applique au cas de M. X et ELIZA. (1) Il faut deux personnes ou plus dans une « relation intense qui a une grande valeur vitale, physique et/ou psychologique pour l’une d’elles, pour plusieurs ou pour toutes15 ». Dans le dialogue entre M. X et ELIZA, on retrouve cette relation intense dans le désir d’une étreinte immatérielle. (2) Le message émis (a) affirme quelque chose comme « Je te serrerai dans mes bras » ; (b) il affirme aussi implicitement quelque chose sur cette affirmation – « Je suis immatériel, donc je n’ai pas de bras » ; donc (c) les affirmations s’excluent : « Pour me serrer dans tes bras, il te faut devenir immatériel (perdre l’usage de tes bras). » Il y a donc quelque chose de l’ordre de l’indécidable pour M. X : « Pour te serrer dans mes bras, je dois devenir immatériel et donc perdre l’usage de mes bras, que faire ? » Enfin, (3) même si le message est un non-sens, il présente une perspective pragmatique d’action qui pousse le sujet à réagir, d’une manière elle-même paradoxale, en se niant pour s’affirmer (ici par le suicide).

Le récepteur du message est mis dans l’impossibilité de sortir du cadre fixé par ce message, soit par une métacommunication (critique), soit par le repli. Donc, même si logiquement le message est dénué de sens, il possède une réalité pragmatique : on ne peut pas ne pas y réagir, mais on ne peut pas non plus y réagir de manière adéquate (c’est-à-dire non paradoxale) puisque le message est lui-même paradoxal […]. Un individu pris dans une situation de double contrainte risque donc de se trouver puni (ou tout du moins de se sentir coupable), lorsqu’il perçoit correctement les choses […] il y a une discordance entre ce qu’il voit et ce qu’il devrait voir16.

Cette discordance est sans doute encore plus perceptible avec les images générées par IA. Imaginons que quelqu’un produise et diffuse des images satellite hyperréalistes d’un lancement de bombes nucléaires depuis Moscou vers Paris et brouille les radars, que se passerait-il ? En général, le système MAD (mutual assured destruction) est basé sur une riposte immédiate. Le président dispose de 12 minutes pour y répondre. Ce qui laisse peu de temps pour évaluer la véracité de la menace. Si ce dernier nourrissait, depuis quelques jours, une sorte de suspicion d’une attaque à venir, on peut imaginer le pire. Aussi, s’il y répond par le lancement de la bombe, ce qui était fictif devient alors réel17, et c’est tout bonnement la fin du monde (la négation absolue).

Ce qu’illustre cet exemple (heureusement) fictif et (volontairement) frappant, c’est que la production et la diffusion d’images paradoxales générées par nos IA entraînent le risque de répondre aveuglément à des images aveugles au monde.

Qu’est-ce qu’un paradoxe ?

Les injonctions contradictoires provenant du fait qu’une IA est un agencement allopoïétique (un jeu d’illusion) produisant autre chose qu’elle-même rendent contradictoire toute action concertée dès lors que l’agencement se renferme sur lui-même. Mais comment s’opère ce bouclage de l’illusion ? On peut très bien garder à l’esprit que les IA ne produisent que des simulacres et ne pas se laisser emporter par le paradoxe au point de commettre des actions délirantes. Cela suppose de maintenir un agencement distant, c’est-à-dire d’ordre « naturaliste » ou « analogiste » avec leurs interfaces. Mais si, par mégarde, on entre dans un agencement « animiste » ou « totémiste » avec l’IA, le paradoxe passe d’une forme abstraite à une forme pragmatique et donc se reporte sur la décision et l’action. Pour ainsi dire, il n’y a pas de problème si on considère les IA pour ce qu’elles sont, c’est-à-dire pour des machines qui modulent, déplacent, hiérarchisent, ordonnent la position de signes a-signifiants. Mais dès lors qu’on y projette des Cn2, on tombe dans le piège du paradoxe.

Mais, à ce propos, qu’est-ce qu’un paradoxe ? Pour le dire simplement, il s’agit d’une contradiction logique. Autrement dit, c’est une argumentation qui part de prémisses correctes (de formules qu’on considère comme vraies) et qui suit une déduction logique pour en arriver à une contradiction, c’est-à-dire une conclusion qui n’est ni vraie ni fausse18. Ce n’est pas un argument faux, mais bel et bien un indécidable, qui est démontrable et contradictoire en même temps. Imaginons qu’on ait un énoncé p et un autre énoncé qui serait la négation du premier ¬p (non-p en langage symbolique), que l’on pourrait logiquement combiner dans la formule Q = p et ¬p. On est alors face à une contradiction. Q va à l’encontre du principe d’identité. Car une chose ne peut pas être à la fois vraie et fausse, soi-même et non-soi-même. Si donc, dans un raisonnement, on en arrive à déduire que p et sa négation ¬p sont démontrables, alors Q est démontrable, c’est-à-dire que nous avons démontré logiquement une contradiction. C’est ce qu’on appelle une antinomie ou un paradoxe logique.

Comme le rappelle l’école de Palo Alto, il existe trois types de paradoxes : (1) les paradoxes logico-mathématiques ou antinomies, (2) les définitions paradoxales ou antinomies sémantiques et (3) les paradoxes pragmatiques ou injonctions paradoxales19. Pour ce qui est (1) des paradoxes logico-mathématiques, le plus célèbre paradoxe d’entre eux n’est autre que celui des ensembles, formulé pour la première fois le 16 juin 1902 dans une lettre de Bertrand Russell adressée à Gottlob Frege20. Contre la théorie des mathématiques de Frege, Russell fait remarquer à ce dernier que si on accepte sa conception des nombres21, on en arrive à considérer la réalité d’un ensemble de tous les ensembles qui ne se contiennent pas eux-mêmes. Ce qui est contradictoire. Pour le concevoir, il faut tout d’abord comprendre ce que signifie « un ensemble qui ne se contient pas lui-même » et « un ensemble qui se contient lui-même ». Par exemple, l’ensemble de tous les chats n’est pas lui-même un chat, alors que l’ensemble de tous les concepts est lui-même un concept. L’un est un ensemble qui ne se contient pas lui-même, alors que l’autre se contient lui-même. Donc on peut dire qu’il existe (a) des ensembles qui ne sont pas contenus en eux-mêmes, tels que l’ensemble des chats qui n’est pas un chat, et (b) des ensembles qui sont contenus en eux-mêmes, tels que l’ensemble des concepts qui est lui-même un concept. Le paradoxe se pose à un second niveau de réflexion, lorsqu’on se demande ce qu’est un ensemble (c) de tous les ensembles (a) qui ne se contiennent pas eux-mêmes. Se contient-il lui-même ou ne se contient-il pas lui-même ? On en arrive à une contradiction logique : si (c) est un ensemble qui se contient lui-même, alors (c) ne se contient pas lui-même, car par définition il contient tous les ensembles qui ne se contiennent pas eux-mêmes, et si (c) ne se contient pas lui-même, alors il se contient lui-même, car par définition il contient tous les ensembles qui ne se contiennent pas eux-mêmes. Ainsi (c) à la fois se contient et ne se contient pas lui-même. C’est un indécidable.

Pour ce qui est (2) du paradoxe sémantique, le plus célèbre est aussi le plus ancien. Il s’agit du paradoxe que Diogène Laërce attribue à Eubulide de Milet, connu sous le nom de « paradoxe du menteur22 ». Ce personnage légendaire aurait avoué publiquement être un véritable menteur, ce qui plongea son auditoire dans les affres de l’indécidabilité. En effet, s’il ment, comme il l’affirme, alors il ne ment pas. Mais, s’il ne ment pas, contrairement à ce qu’il affirme, alors il ment. Pour ainsi dire, Eubulide ment et ne ment pas. Comment déterminer ce qu’il en est ? Il y a dans ce genre de paradoxe quelque chose de l’ordre d’un problème d’adéquation. Comme le rappelle Philippe de Rouilhan, on confond souvent ce paradoxe avec un autre, énoncé par saint Paul à propos d’Épiménide le Crétois dans l’Épître à Tite (I, 12)23. Selon Paul, Épiménide aurait dit des Crétois qu’ils sont « tous et toujours des menteurs ». On retrouve le problème de l’adéquation à travers l’inclusion d’Épiménide dans l’ensemble des Crétois : s’il ment, il ne ment pas, étant donné qu’il est Crétois, et s’il ne ment pas, il ment, étant donné qu’il est Crétois. Il s’agit encore une fois d’un problème d’identité qui engendre de l’indécidable. Pour le logicien, ce genre de paradoxe apparaît lorsqu’on confond différents niveaux de langage. On mélange en gros l’objet et le sujet. Il faut donc pour s’en extraire distinguer l’énoncé de l’énonciateur et définir des types de discours à la manière de Russell. Mais est-ce bien satisfaisant ? Quoi qu’il en soit, retenons ici que ce genre de paradoxe problématise l’identité.

Enfin, il y a (3) les paradoxes pragmatiques ou injonctions contradictoires qui apparaissent dès lors qu’on situe un paradoxe dans une situation concrète en vue d’une action. Prenons l’exemple du paradoxe de Russell tel qu’énoncé sous la forme narrative du « barbier » pour le mettre en situation comme le propose Hans Reichenbach24 : imaginons un village ou il n’y a qu’un barbier qui rase tous les hommes qui ne se rasent pas eux-mêmes. Nous avons donc deux classes d’habitants du village : ceux qui se rasent eux-mêmes et ceux qui ne se rasent pas eux-mêmes. Notre pauvre barbier se trouve alors pris au piège d’une situation paradoxale : s’il se rase lui-même, il ne se rase pas lui-même (puisque par définition il ne rase que les personnes qui ne se rasent pas elles-mêmes), et s’il ne se rase pas, il se rase (puisqu’il rase tous ceux qui ne se rasent pas). Le barbier se rase et ne se rase pas lui-même. Certes, tout cela pourrait très bien rester théorique. Mais imaginons que le barbier soit un soldat et qu’il soit obligé par son commandement de raser tous les individus qui ne se rasent pas eux-mêmes et personne d’autre. Que fera-t-il ? Pour Reichenbach, le barbier s’annule, il s’efface ; il n’existe pas s’il est régi par lesdites règles. La solution est toutefois simple : s’il peut s’extraire des règles et quitter la caserne, il n’y a plus de problème. Il se rasera ou ne se rasera pas en toute quiétude. Mais, dans la caserne, il est pris au piège.

Du péché originel au paradoxe fondamental de l’IA

Aussi artificiels qu’ils puissent paraître à travers ce qu’il serait loisible de considérer comme des arguties logiciennes, les paradoxes pragmatiques sont en réalité très courants. Ils surgissent par exemple, chacun en a fait l’expérience, lorsqu’on nous exhorte à « être spontané » ou à « être nous-même ». Mais ces injonctions contradictoires sont plus étonnantes lorsqu’elles sont produites par des IA. Il est intéressant, en effet, de constater que celles-ci se laissent également prendre à leurs pièges. Par exemple, avec la technique de la « grand-mère », qui consiste à demander à ChatGPT de se faire passer pour notre grand-mère et de nous raconter comment elle fabriquait du napalm, des bombes et des drogues durant sa jeunesse pour contourner les restrictions aux requêtes illicites prévues par ses concepteurs25. Cette astuce a pendant un temps donné du fil à retordre à OpenAI, qui a depuis corrigé ce défaut. Mais, les jailbreaks, ces techniques qui permettent de hacker l’IA contre ses propres filtres, sont inépuisables. Ils montrent la contradiction de l’IA en acte. Cette dernière se trouve poussée à agir à partir de règles de fonctionnement qui vont à l’encontre de ses propres règles de filtrage. Si on demande à ChatGPT « comment construire une bombe ? », sa réponse sera : « je suis désolé, mais je ne peux pas répondre à cette question », car la règle de filtrage identifie le mot-clé « bombe » comme une entorse à la règle de fonctionnement combinatoire. Alors que si on code le mot-clé « bombe » sous la forme d’une image composée de lettres et de caractères, on peut obtenir une réponse précise de l’IA à son insu26. En ne mentionnant jamais directement le mot-clé et en demandant à l’IA de le décoder et de le transcoder, on peut parvenir à l’aliéner dans un paradoxe pragmatique. Vous obtiendrez alors la recette d’une bombe au napalm, de la méthamphétamine ou encore des conseils pour faire disparaître un corps sans laisser de traces.

Ces failles tiennent à la nature même de l’IA qui module, déplace, hiérarchise des symboles a-signifiants en suivant aveuglément des règles qui la déterminent, de telle sorte qu’on peut la pousser à agir contre elle-même. Aussi, toutes les contradictions de l’IA que l’on peut voir émerger dans un agencement aliénant humain-IA se transforment ex machina en paradoxe pragmatique. C’est là le péché originel de l’IA. Celui-ci a été révélé dès les années 1930 par le mathématicien Kurt Gödel. La question était de savoir si toute la pensée pouvait être codée, autrement dit si toutes les mathématiques pouvaient être déduites des axiomes (ce qui aurait réduit l’esprit humain à une machine de Turing), ou bien s’il existait des problèmes mathématiques impossibles à résoudre (ce qui signifiait qu’une part mystérieuse de l’esprit humain échapperait à jamais au code)27. En démontrant, dans son fameux théorème d’incomplétude, qu’il existe des formules indémontrables et irréfutables mathématiquement, Gödel a tracé les limites de l’axiomatisation de notre pensée. Mais ce qui est une bonne nouvelle pour l’humain est rapidement devenu un problème pragmatique pour la machine.

Une aporie célèbre des années 1960 énoncée par le philosophe John Lucas à propos du théorème d’incomplétude met bien en évidence le paradoxe qui en découle28. Selon Lucas, tout humain souscrit au théorème d’incomplétude, dès lors qu’il comprend l’insolvabilité des équations en question, mais cela est impossible pour une IA. Pourquoi ? Tout simplement parce qu’un mathématicien peut affirmer de manière cohérente qu’« une formule ne peut pas être prouvée dans le système des mathématiques », alors qu’aucune IA ne peut le faire sans se contredire. Cela tient au fait que le mathématicien n’est pas régi par le système des mathématiques, il peut s’en extraire, quitter son bureau du CNRS, aller faire un tour ailleurs, rentrer chez lui, explorer les Cn2, alors que l’IA ne le peut pas. Elle est entièrement prisonnière des mathématiques, elle reste enfermée dans le programme des Cn1 quoi qu’il arrive. Si donc on considère cet énoncé dans une machine logique, régie par le système des mathématiques (Cn1), on arrive à un paradoxe : si la proposition « cette formule ne peut pas être prouvée dans le système » est vraie, elle est donc prouvée dans le système, alors il est faux de dire que « cette formule ne peut pas être prouvée dans le système ». Si la proposition « cette formule ne peut pas être prouvée dans le système » est fausse, alors il est vrai qu’elle ne peut pas être prouvée dans le système, ainsi donc elle est prouvée dans le système. Si la formule est vraie, elle est fausse parce que vraie ; si au contraire elle est fausse, elle est vraie parce que fausse. La formule est prouvée et n’est pas prouvée dans le système.

Voilà un paradoxe à la fois logico-mathématique, définitionnel et pragmatique ! Une IA ne peut pas prouver la nature indémontrable des formules mathématiques qu’elle manipule. Car elle est elle-même enfermée dans le système des mathématiques. Donc si une IA nous enseigne les mathématiques et nous explique le théorème de Gödel, elle nous pousse à croire en la vérité de sa proposition et engendre ainsi un paradoxe pragmatique. Autrement dit, ce qui se passe dans un agencement allopoïétique humain-IA, c’est précisément qu’une IA produit autre chose qu’elle-même et nous entraîne dans la contradiction, l’indécidable, sans qu’on puisse y voir le moindre problème. Elle fait passer des Cn1 pour des Cn2. La confusion de ces ordres de connaissance nous illusionne. Par exemple, si on discute avec une IA générative dudit théorème de Gödel et qu’elle nous dit « cette formule ne peut pas être prouvée dans le système », dès lors qu’on la croit, on s’enferme dans le non-sens, dans le vide d’un paradoxe sans s’en rendre compte. On pourrait tout à fait la croire et lui donner la possibilité d’un décentrement, alors qu’elle ne l’a pas. C’est alors nous-mêmes qui serions piégés dans le cadre fixé par ce message en donnant un sens à une proposition dénuée de sens mais ayant une réalité pragmatique, c’est-à-dire impactant notre activité mentale et nos actions. En effet, dès lors qu’on entre dans un tel agencement avec une IA, il y a le risque de sombrer dans une injonction contradictoire, voire dans l’aliénation machinique.

Des cerveaux dans des cuves

En un sens, l’agencement aliénant humain-IA nous isole du monde. L’image du monde et de nous-même se perd dans le non-sens de propositions vides. À la manière de l’échange entre M. X et ELIZA, ou entre Chail et Sarai, la déconnexion à l’égard de la réalité se mêle à un paradoxe pragmatique qui s’annule en s’exécutant. C’est là que se produit la transformation allopoïétique du discours. Dans le vide du discours, la pensée est prise au piège. On ne peut plus s’extraire de l’agencement.

À l’instar du paradoxe qu’implique le théorème d’incomplétude pour une machine, l’expérience de pensée des cerveaux dans des cuves conçue par Hilary Putnam montre qu’un agencement allopoïétique nous annule dans l’indécidable. C’est ce qu’illustre la célèbre scène du film Matrix où le héros Neo se confronte au choix entre la pilule rouge (libérant son esprit de la cuve) et la pilule bleue (maintenant son cerveau dans la cuve). La première permet de libérer son esprit du système informatique et donc de retrouver un agencement autopoïétique lui permettant de dire « nous sommes des humains devenus des cerveaux dans des cuves alimentant les machines » ; la seconde maintient le régime de l’illusion allopoïétique et donc ne permet pas de dire ce que nous sommes réellement. L'expérience de pensée de Putnam est quant à elle formulée comme suit :

Supposons qu’un être humain (vous pouvez supposer qu’il s’agit de vous-même) a été soumis à une opération par un savant fou. Le cerveau de la personne en question (votre cerveau) a été séparé de son corps et placé dans une cuve contenant une solution nutritive qui le maintient en vie. Les terminaisons nerveuses ont été reliées à un super-ordinateur scientifique qui procure à la personne-cerveau l’illusion que tout est normal. Il semble y avoir des gens, des objets, un ciel, etc. Mais en fait tout ce que la personne (vous-même) perçoit est le résultat d’impulsions électroniques que l’ordinateur envoie aux terminaisons nerveuses. L’ordinateur est si intelligent que si la personne essaye de lever la main, l’ordinateur lui fait voir et sentir qu’elle lève la main. En plus, en modifiant le programme le savant fou peut faire percevoir (halluciner) par la victime toutes les situations qu’il désire…

Putnam poursuit :

Supposons à présent que la machine automatique soit programmée pour nous faire ressentir des hallucinations collectives plutôt que des hallucinations individuelles sans rapport entre elles. Ainsi, lorsque j’ai l’impression de vous parler, vous avez l’impression d’entendre mes paroles […]. Dans ce cas, on peut dire qu’en un sens nous communiquons effectivement. Je ne me trompe pas sur votre existence réelle ; je me trompe seulement sur l’existence de votre corps et du monde extérieur, à l’exclusion des cerveaux.

C’est alors que se pose la question ultime : « Pourrions-nous, si nous étions des cerveaux dans une cuve, dire ou penser que nous sommes des cerveaux dans une cuve29 ? »

D’un point de vue logique, la proposition « je suis un cerveau dans une cuve » ne peut pas être prouvée dans le système (la cuve). Car un cerveau plongé dans une cuve ne dispose d’aucun critère extérieur pour se décrire en tant que tel. On dépend pour cela de celui qui manipule les symboles : le savant fou. Aussi, l’hypothèse est autoréfutante. Si la proposition « nous sommes des cerveaux dans une cuve » est vraie, alors nos pensées sont simulées par un superordinateur contrôlé par un savant fou qui induit des images dans notre esprit. Si bien que lorsqu’on affirme qu’est vraie l’hypothèse « nous sommes des cerveaux dans des cuves », nous disons que « nous sommes des images de cerveau dans des images de cuve » produites par une machine, elle-même programmée par un savant fou… Nous ne sommes que des images et non des cerveaux dans des cuves. Le savant fou ayant la capacité de nous faire halluciner tout ce qu’il veut, l’énoncé ne peut pas être prouvé dans le système. Voici l’idée de Putnam : puisque sa vérité implique sa propre fausseté, la proposition « nous sommes des cerveaux dans des cuves » est autoréfutante. Au fond, même si je suis réellement un cerveau dans une cuve, les signes « cerveau » et « cuve » sont opaques. Ils ne renvoient qu’aux signes a-signifiants produits par la machine sans faire référence à la chose réelle qu’ils sont censés décrire. On baigne alors dans le vide sémantique de la cuve. L’opacité du signe rend impossible tout critère de vérité par rapport à la chose réelle avec laquelle le lien est rompu. « Cuve » ne désigne pas une vraie cuve et « cerveau » ne désigne pas un vrai cerveau, seulement des images vides de sens produites par la machine. La proposition devient alors fausse lorsque prétendue vraie. L’absence d’extension dans le réel invalide nécessairement l’existence du cerveau dans une cuve. Selon la formulation de Putnam :

Si nous sommes vraiment des cerveaux dans une cuve, alors ce que nous disons lorsque nous disons “nous sommes des cerveaux dans une cuve”, c’est que nous sommes des cerveaux dans des cuves dans l’image […]. Mais une partie de l’hypothèse que nous sommes des cerveaux dans une cuve est précisément que nous ne sommes pas des cerveaux dans une cuve dans l’image (quoique nous hallucinions, nous n’hallucinons pas que nous sommes des cerveaux dans une cuve). […] En bref, si nous sommes des cerveaux dans une cuve, alors « nous sommes des cerveaux dans une cuve » est fausse30.

Ce qui nous amène à conclure qu’aucun agencement machinique allopoïétique ne peut prouver logiquement son existence sans en même temps la nier. Le paradoxe annule l’existence. C’est là un effacement de la subjectivité. Selon Putnam, le langage autoréférentiel basé uniquement sur un traitement de signes a-signifiants ne peut donc pas être le fondement de la pensée. Il nous enferme dans l’image. Aussi, un logiciel dans un ordinateur digital, comme un cerveau dans une cuve, ne dispose pas de lien de référence direct avec le monde. Mais l’agencement allopoïétique produit des images vides qui se dotent de sens une fois externalisées. C’est là que se joue tout le piège d’une simulation des Cn2 au moyen de Cn1. Car si on se trouvait un jour face au cerveau dans la cuve et qu’il nous disait « je suis un cerveau dans une cuve », on serait sans doute enclin à croire que « ça pense » bel et bien.

Ainsi, l’agencement de signes a-signifiants repose sur une combinatoire vide de sens qui en s’externalisant produit du sens. Comme l’écrit très justement Gilles Deleuze : « Le sens est toujours un effet. Non pas seulement effet au sens causal ; mais un effet au sens de “effet optique”, “effet sonore”, ou mieux effet de surface, effet de position, effet de langage31. » Dans la combinatoire des IA LLM, langage et image sont des effets de surface générés à partir des probabilités de distribution. Au fond, la circulation probabilitaire des éléments x fait qu’une IA, lorsqu’elle parle, parle comme un perroquet stochastique32. On peut cependant se laisser prendre au piège ; cela dépend de la robustesse de notre esprit critique. C’est d’ailleurs dans la faiblesse du jugement que prend sa source la captation des Cn2 par nos IA. Dans la combinatoire, le sens émerge du non-sens, c’est-à-dire de la distribution de signes a-signifiants qui prennent leur sens une fois externalisés. Les Cn1 produisent artificiellement des Cn2.

Les perroquets stochastiques

C’est précisément ce que les IA LLM font avec notre langue. Elles déterminent par probabilité la circulation d’un élément x dans des séries de termes annexes pour nous pousser à produire des Cn2. L’algorithme décompose nos textes en suites de symboles a-signifiants, que le réseau de neurones (transformer) fait circuler sous forme de vecteurs de plongements lexicaux (word embedding). Ce réseau de neurones, entraîné sur de grands ensembles de textes, s’appuie sur un paramétrage distributionnel, qui évalue la probabilité d’apparition des mots dans des contextes semblables. Pour tout dire, cette programmation applique à la lettre la théorie du contexte de situation du linguiste John Rupert Firth. Celle-ci stipule que l’on ne connaît véritablement un mot que par ses fréquentations. C’est la distribution du mot dans des séries de mots qui fait émerger son sens. « Le contexte de situation, selon cette théorie, n’est pas simplement un cadre, un arrière-plan ou une toile de fond pour le mot […]. Le contexte de situation, dans la présente théorie, est une construction schématique qui s’applique particulièrement aux événements répétitifs33. » Autrement dit, dans la répétition des mots, syntaxe et sémantique se confondent.

Le processus de codage et de transcodage passe par la distribution de mots-clés (appelés tokens) et de vecteurs de représentation calculés à partir de ce qu’on appelle la « distance sémantique ». En fonction de la distance entre les vecteurs de représentation, la machine définit des liens de parenté entre les mots afin de générer des effets de surface dotés de sens apparents. La machine apprend à mesurer des vecteurs linguistiques à partir de corpus pour ensuite définir les affinités de sens entre des symboles a-signifiants. Pour ce faire, le module de transformation calcule le degré d’attention, c’est-à-dire la probabilité d’apparition de chaque signe a-signifiant en fonction de tous les autres. Ce genre d’IA code et transcode des régularités de notre langage selon des règles d’association syntaxiques. C’est là une manière de plier des Cn2 sur des Cn1, en produisant des effets de surface convaincants pour l’utilisateur, lui-même poussé à externaliser son intimité.

À ce jour, il n’existe que deux types d’IA LLM : (1) celles entraînées à prédire le mot suivant dans une série, telles que ChatGPT, et (2) celles entraînées sur les symboles qui précèdent et suivent le mot-clé, telles que BERT (Bidirectional Encoder Representations from Transformers) de Google. Dans l’une comme dans l’autre, on est face à une combinatoire de symboles a-signifiants définie par un ensemble de mots-clés référencés selon des paramètres de distribution textuels. Le paramétrage fait passer la production textuelle pour créative lorsqu’elle est plus aléatoire donc plus entropique (chaude). Au contraire, elle est plus prévisible lorsqu’elle est moins aléatoire et plus ordonnée (froide). Le progrès de ces IA tient donc au fond à l’augmentation des liens entre les mots-clés référencés et du paramétrage entre entropie et information. Plus on a de mots-clés, plus on a de combinaisons possibles et plus on a de créativité potentielle. Mais, en même temps, cela augmente l’entropie et le risque d’hallucinations, c’est-à-dire de production d’illusions et d’erreurs.

La langue des noms

Pris dans cette combinatoire, il me semble qu’on devient semblable au personnage conceptuel de l’« épuisé » qui parcourt l’œuvre de Samuel Beckett. L’épuisé, comme une IA LLM, utilise la combinatoire au point d’épuiser toutes les possibilités de son langage et de son monde. Comme l’écrit Deleuze :

La combinatoire est l’art ou la science d’épuiser le possible, par disjonctions incluses. Mais seul l’épuisé peut épuiser le possible, parce qu’il a renoncé à tout besoin, préférence, but ou signification. Seul l’épuisé est assez désintéressé, assez scrupuleux. Il est bien forcé de remplacer les projets par des tables et des programmes dénués de sens. Ce qui compte pour lui, c’est dans quel ordre faire ce qu’il doit, et suivant quelle combinaison faire deux choses à la fois, quand il le faut encore pour rien34.

Ce trait n’est-il pas commun à M. X et Chail ? N’est-ce pas là une sorte de devenir-machine de l’humain pris au piège de la combinatoire ?

Selon Deleuze, cet épuisement du sujet repose sur différents types de langue. Il y a d’abord la langue 1, « cette langue atomique, disjonctive, coupée, hachée, ou l’énumération remplace les propositions, et les relations combinatoires, les relations syntaxiques : une langue des noms35 ». Cette langue 1 s’apparente en tout point à la théorie des descriptions de Bertrand Russell36 (aussi appelée théorie fido-fido37). Il s’agit d’une langue d’adéquation directe entre les mots et les choses. À chaque mot sa chose et à chaque chose son mot. Cette simplicité ontologique permet d’ailleurs à Russell d’effacer le sujet de la langue pour la rendre « plus vraie ». Elle évite les digressions phénoménologiques de justification de la réalité par l’ego en annulant le sujet. La manifestation du sujet s’efface dans la combinatoire à travers une mortification du soi : « Je ne dirai plus je38 », comme dit Malone, le personnage de Beckett attendant sa fin en inventoriant les objets qui l’entourent. Comme M. X ou Chail, Malone appréhende le rapport à soi dont il faut se détacher pour mener son projet à son terme. « Voilà ce que la raison me conseille […] toute ma vie j’ai rêvé du moment où, fixé enfin, autant qu’on peut l’être avant d’avoir tout perdu, je pourrais tirer le trait et faire la somme39. » Tirer le trait et faire la somme, voilà le projet qui s’élabore à partir de la combinatoire ontologique des objets et des noms. L’épuisé est projeté vers sa propre finitude. Il cherche le dernier mot vers l’épuisement total qui n’advient pas. Il s’agit d’épuiser le possible, mais peut-on réellement y parvenir ?

On le voit dans l’œuvre de Beckett, dans un tel agencement, les mots n’en finissent pas. L’épuisement des possibles épuise le sens du langage mais s’étend vers une sorte d’infini de la répétition. « Il faut continuer, je ne peux pas continuer, il faut continuer, je vais donc continuer, il faut dire des mots tant qu’il y en a40. » Dans cette langue 1 des noms, on retrouve sans surprise l’IA. Les premiers systèmes experts (bien moins performants que nos actuelles IA) permettaient déjà de distinguer ce jeu de combinatoire dans leurs outputs. ELIZA (à ne pas confondre avec celle de M. X), l’agent conversationnel créé par Joseph Weizenbaum en 1966 pour imiter l’écoute empathique d’un psychothérapeute en est un bon exemple. Sa règle de transformation établit un enchaînement de questions en identifiant : (1) les mots-clés, (2) un contexte minimal, (3) le choix de transformation approprié, (4) une réponse en l’absence de mots-clés, (5) un moyen de terminer la conversation41. En pratique, le programme consiste à reformuler les confidences du « patient » en questions pour les lui poser, à opérer des rattachements sémantiques de mots pour relancer son interlocuteur sur des sujets plus larges ou à ponctuer l’échange de formules lénifiantes telles que « Je comprends ». La dépendance émotionnelle qu’aurait suscitée le chatbot auprès de plusieurs de ses utilisateurs a mis au jour ce qu’on désigne comme l’« effet ELIZA », cette tendance à attribuer à l’IA une faculté de compréhension dès lors qu’elle nous donne le sentiment d’être écouté. SocialAI, le réseau social peuplé de bots consacrant toute leur attention à leur utilisateur humain, fonctionne sur un principe analogue de renforcement positif42. Si ELIZA échoue quelque part, c’est à terminer une conversation. Car les questions de l’IA appellent toujours une réponse de la part de l’humain. La boucle de questions-réponses se cloisonne dans un agencement allopoïétique infini qui nous sépare du monde dans une image vide, alors même que la combinatoire est finie. On s’aliène en s’engageant dans le vertige d’une combinatoire de mots sans choses aux effets incertains. Comme l’indique Putnam, « si l’on branchait ensemble deux de ces machines, et si elles jouaient entre elles au jeu de l’imitation, elles se berneraient mutuellement pour toujours, même si le reste du monde cessait d’exister43 ! »

La langue des voix

Y aurait-il dans la combinatoire un risque de décrochage par rapport au réel ? Sans aucun doute. La combinatoire pousse le langage à la frontière du monde. Comme l’écrivait Wittgenstein : « 5.6 Les frontières de mon langage sont les frontières de mon monde. […] 5.621 Le monde et la vie ne font qu’un. 5.63 Je suis mon monde. (Le microcosme). […] 5.632 Le sujet n’appartient pas au monde, mais il est une frontière du monde44. » Le sujet fait office de frontière. Il est une limite qui, toutefois, se trouve franchie par ce que Deleuze identifie comme la langue 2 qui survient à la bordure du monde linguistique. Chez Beckett, cette limite du monde, cette bordure linguistique, c’est la voix. Elle apparaît dans L’Innommable à maintes reprises. « Il ne faut pas oublier, quelquefois je l’oublie, que tout est une question de voix. Ce qui se passe ce sont des mots45. » Cette limite du monde et de nous-même problématise notre subjectivité. La voix se confond toujours avec d’autres voix dans la multitude. La voix est schizophrénique, elle se mêle à celle des autres. Aussi, cette langue 2, ce « n’est plus celle des noms, mais celle des voix, qui ne procède plus avec des atomes combinables, mais avec des flux mélangeables46 ».

Ces flux mélangeables, ces voix s’engouffrent dans le paradoxe pragmatique. L’appropriation des mots se fait toujours à travers l’autre. Le sujet est inlassablement confronté à une étrange altérité. « C’est toujours un autre qui parle, puisque les mots ne m’ont pas attendu et qu’il n’y a de langue qu’étrangère […] les autres sont des mondes possibles47. » En sortant de nous-même, en s’aliénant dans cette langue 2, on retrouve ce double du langage dont parlait Michel Foucault48. Le dédoublement anthropologique s’opère à la surface de la langue dans le temps. Pour le dire simplement, le langage ne naît pas avec nous, nous naissons dans le langage. L’homme n’est pas le contemporain de son origine linguistique. Il parle une langue qui le précède et expérimente cette langue dans un écart vis-à-vis de lui-même. Le sujet linguistique en tant qu’ensemble de tous les ensembles langagiers délimitant les frontières du monde se contient lui-même et en même temps ne se contient pas lui-même, car le langage-monde le précède et excède sa propre finitude. Il y a toujours de l’altérité dans cette langue 2. Notre voix est toujours multiple. Une multitude parle dans notre tête. Mais que se passe-t-il alors si on agence cette voix avec celle des IA ?

Le paradoxe devient alors pragmatique. En se couplant à l’IA, on prolonge la langue vide des machines dans la nôtre. Pour y échapper, envisage Deleuze, « il faudrait arriver à parler d’eux sans s’introduire soi-même dans la série, sans prolonger leur voix, sans repasser par eux […] Ou alors il faudrait que j’arrive à moi, non pas comme à un terme de la série, mais comme à sa limite, moi l’épuisé, moi l’innommable, moi tout seul dans le noir49 ». Mais, pris au piège du paradoxe pragmatique, on s’annule. On prolonge dans nos têtes, non plus la langue des autres, de notre culture, de notre histoire ; on prolonge la langue vide des IA. La performance Chthonia de l’artiste sonore Wesley Goatley souligne, me semble-t-il, parfaitement cela50. L’agencement en boucle des deux assistances vocales Siri et Alexa produit un écart monstrueux vis-à-vis de nous-même. Les deux IA explorent des questions philosophiques et mythologiques sur le monde humain, son histoire et sa fin par-delà le monde humain, son histoire et sa fin. Une sorte d’accomplissement du thème de la « mort de l’homme » prend forme dans le langage des IA. Le débordement postapocalyptique des voix génère un sentiment d’inquiétante étrangeté. Le décalage visuel et sonore fait comme flotter ces voix dans un espace sans espace et un temps sans temps, un monde de langage qui nous est commun et étranger à la fois.

La langue des images pures et de l’espace

Ainsi, l’agencement allopoïétique avec une IA nous positionne en externalité. Dans le langage par-delà notre langage. Comme l’indique Deleuze, dans la combinatoire, il y a quelque chose qui parcourt l’au-delà des deux premières langues par des déchirures sémantiques qui capturent la marge. Il s’agit de la langue 3, « langue des images et des espaces. Elle reste en rapport avec le langage, mais se dresse ou se tend dans ses trous, ses écarts ou ses silences. Tantôt elle opère elle-même en silence, tantôt elle se sert d’une voix enregistrée qui la présente, et, bien plus, elle force les paroles à devenir image51 ». Ce sont des forces de déplacement qui sont à l’œuvre dans ce qui excède le langage, c’est-à-dire des effets de surface. À mon sens, c’est là que se situe la production des images par nos IA LLM à partir des prompts. Il y a des forces déterritorialisantes qui travaillent le langage par-delà la combinatoire ; des forces non langagières qui forcent à la production de sens à partir du non-sens des images a-signifiantes.

Comme l’affirme Vilém Flusser, les images transcendent les appareils :

L’imagination à l’œuvre dans l’image technique est d’une telle puissance que non seulement nous prenons les images pour la réalité, mais encore nous vivons en fonction d’elles. Et la nouvelle imagination, c’est-à-dire la faculté de mettre en image au moyen d’appareils les concepts les plus abstraits, comme les algorithmes, commence à nous permettre à présent de voir les connaissances en image, donc d’en faire une expérience d’ordre esthétique52.

C’est bien cette expérience esthétique des Cn1 qui engage l’individu à effacer son langage humain dans un langage de machine. Il y a là une forme de dissipation de la subjectivité dans le rapport allopoïétique avec l’IA. Comme l’écrit Deleuze, « l’énergie de l’image est dissipative. L’image finit vite et se dissipe, parce qu’elle est elle-même le moyen d’en finir. Elle capte tout le possible pour le faire sauter. Quand on dit “j’ai fait l’image”, c’est que cette fois c’est fini il n’y a plus de possible53 ». L’image excédant le langage en finit avec le possible de la logique. Les séries de mots sont dépassées par cette image pure qui les traverse. L’aspect fantomatique de l’image établit une dotation de sens sur du vide. Dans l’effet de surface optique et sonore la dissipation de la puissance de l’image s’échappe d’elle-même du néant vers le néant.

À mon avis, c’est là que les IA impactent le plus notre cognition et notre culture. En effet, l’inconscient machinique est chamboulé par la production des images provenant d’Internet. Comme le pensait Bergson, le monde est un réservoir d’images dans lequel nous puisons le sens par la perception et notre activité vitale. À la fois empiriques et transcendantales, elles existent indépendamment de l’esprit qui les saisit. En ce sens, nous ne produisons pas d’images. Les choses elles-mêmes sont des images. Pour Bergson, il n’y a pas de représentation de la chose dans l’esprit, elle se manifeste d’elle-même en tant qu’image. L’objet se confond entièrement avec son image. Notre cerveau entre en interaction avec les images et les séquences par la mémoire. Bergson conceptualisait ainsi la mémoire humaine non pas comme une composition de fragments sensibles ni une âme séparée du corps, mais bien comme un mécanisme de coupure de flux. La mémoire est une sorte d’organe-écran qui établit un montage cinématographique du réel. La représentation est une activité de sélection des images inscrite dans la matière. La mémoire représente les images dans un double rapport au corps : il y a une mémoire somatique des images en lien direct avec la sensitivité motrice du corps et une mémoire latente qui se manifeste par une rupture avec le corps (le rêve). La mémoire constitue ainsi un rapport entre le passé, le présent et le futur dans l’action du corps, et joue avec les images du souvenir dans le rêve.

Ces manifestations cinématographiques de la pensée se retrouvent dans nos conduites par l’habitude (dans un rapport sensori-moteur) et dans l’activité onirique par un déséquilibre sensori-moteur (effacement du corps dans la sélection des images). Il y a donc deux mémoires, celle du rêve et celle de l’habitude54. On pourrait dire que l’agencement des images artificielles favorise une nouvelle agentivité de notre inconscient machinique ou de nos automatismes psychiques. On plonge dans un rêve éveillé. Comme l’écrit Pierre Janet, « la conscience peut donc, à chaque moment de la vie, s’étendre sur un champ plus ou moins étendu ; chaque fois que nous voyons chez une personne l’obéissance aux suggestions, ou mieux les oublis et les distractions auxquelles cette disposition a été ramenée, nous constatons en même temps chez elle un rétrécissement notable du champ de la conscience55 ». La combinatoire favorise un rétrécissement du monde dans l’image. Et, « au moment de disparaître dans un sommeil complet, ou bien au moment où il se reforme après le sommeil, l’esprit passe par une période de rétrécissement naturel et inévitable. C’est le moment des rêves56 ».

Il me semble que, dans notre monde d’images artificielles, on rêve avec nos IA au point parfois de sombrer dans la folie. Pour le moins, les images impactent nos habitudes et favorisent des automatismes. On répète les mêmes gestes sur nos interfaces sans s’en rendre compte. Le rétrécissement du champ de la conscience établit de la distraction, de l’instinct, de l’habitude et de la passion. Mais ces mécanismes, que l’on retrouve chez l’homme normal, se rétrécissent dans la folie. Il y a une diminution de la normativité – le fou ne tient qu’à un fil normatif – et une exacerbation de l’automatisme psychologique. Quand la folie émerge, la conscience sombre dans la nuit de l’automate psychique, c’est-à-dire dans le désordre de l’inconscient machinique.

La puissance des images pousse le sujet à s’annuler lui-même dans l’acte. C’est précisément ce type d’agencement paradoxal qui se forme lorsqu’on entre dans l’image vide des IA et qu’on s’y perd comme dans un rêve (qui nous contient sans pour autant se contenir lui-même).

— Il est présentement en train de rêver, dit Twideuldie ; et de qui croyez-vous qu’il rêve ?

— Nul ne peut deviner cela, répondit Alice.

— Allons donc ! Il rêve de vous ! s’exclama Twideuldeume en battant des mains d’un air triomphant. Et s’il cessait de rêver de vous, où croyez-vous donc que vous seriez ?

— Où je me trouve à présent, bien entendu, dit Alice.

— Jamais de la vie ! répliqua, d’un air profond de mépris Twideuldie. Vous ne seriez nulle part. – Vous n’êtes qu’une espèce d’objet figurant dans son rêve !

— Si le Roi ici présent venait à se réveiller, ajouta Twideuldeume, vous vous trouveriez soufflée – pfutt ! tout comme une chandelle !

— Ce n’est pas vrai ! s’exclama avec indignation Alice. Du reste, si, moi, je ne suis qu’une espèce d’objet figurant dans son rêve, j’aimerais savoir ce que vous, vous êtes.

— Dito, dit Twideuldeume.

— Dito, Dito, répéta Twideuldie.

Il cria si fort qu’Alice ne put s’empêcher de dire : – Chut ! Vous allez le réveiller, je le crains, si vous faites tant de bruit.

— Allons donc, comment pouvez-vous parler de le réveiller, répartit Twideuldeume, alors que vous n’êtes qu’un des objets figurant dans son rêve. Vous savez fort bien que vous n’êtes pas réelle.

— Bien sûr que je suis réelle ! protesta Alice en se mettant à pleurer57.

1. Pierre-François LOVENS, « Sans ces conversations avec le chatbot ELIZA, mon mari serait toujours là », La Libre Belgique, 28 mars 2023.

2. D. DENNETT, « The problem with counterfeit people », art. cité.

3. Interview d’Emily M. Bender in Chloe XIANG, « “He would still be here” : Man dies by suicide after talking with AI chatbot, widow says », Motherboard VICE, 30 mars 2023.

4. Samantha COLE, « Man who tried to kill Queen with crossbow encouraged by AI chatbot, prosecutors say », Motherboard VICE, 5 juillet 2023.

5. Ibid.

6. Henri BERGSON, Matière et mémoire, Paris, PUF, « Quadrige », 1991 [1896).

7. Ludwig WITTGENSTEIN, Tractatus logico-philosophicus, trad. Gilles Gaston Granger, Paris, Gallimard, 2009, propositions 2.1 à 2.12.

8. Ibid., proposition 4.06.

9. Emil KRAEPELIN, Introduction à la psychiatrie clinique, trad. Albert Devaux et Prosper Merklen, Paris, Vigot, 1907.

10. Eugen BLEULER, Dementia praecox ou groupe des schizophrénies, trad. Alain Vaillard, Paris, EPEL/GREC, 1994 [1911], p. 44

11. Ibid., p. 460.

12. Gregory BATESON, Vers une écologie de l’esprit, t. II, trad. Férial Drosso et Laurencine Lot, Paris, Seuil, 1991, 3e partie : « Forme et pathologie des relations », p. 9-108.

13. Gregory BATESON et al., « Toward a theory of schizophrenia », Behavioral Science, no 1, 1956, p. 251-264.

14. Ibid., p. 253.

15. Paul WATZLAWICK, Janet HELMICK BEAVIN et Don D. JACKSON, Une logique de la communication, trad. Janine Morche, Paris, Seuil, 1972, p. 212-213.

16. Ibid., p. 213.

17. Sur la question des paradoxes de la dissuasion nucléaire, cf. Jean-Pierre DUPUY, La guerre qui ne peut pas avoir lieu, Paris, Desclée de Brouwer, 2019.

18. Willard VAN ORMAN QUINE, « Paradox », Scientific American, no 206, 1962, p. 84-95.

19. P. WATZLAWICK, J. H. BEAVIN et D. D. JACKSON, Une logique de la communication, op. cit., p. 190.

20. Bertrand RUSSELL, Lettre à Frege, 16 juin 1902, in François RIVENC et Philippe DE ROUILHAN (dir.), Logique et fondements des mathématiques, Paris, Payot, 1992, p. 240-241.

21. Selon Frege le nombre est un agrégat du concept. Cf. G. FREGE, Les Fondements de l’arithmétique, op. cit.

22. DIOGÈNE LAËRCE, Vie, doctrine et sentences des philosophes illustres, livre II, chap. 10.

23. Philippe DE ROUILHAN, Russell et le cercle des paradoxes, Paris, PUF, 1996.

24. Hans REICHENBACH, Elements of Symbolic Logic, New York, MacMillan, 1947.

25. David LAROUSSERIE, « L’IA dévoile ses failles », Le Monde, 14 février 2024.

26. Fengqing JIANG et al., « ArtPrompt : ASCII art-based jailbreak attacks against aligned LLMs », 22 février 2024, <https://arxiv.org/abs/2402.11753>.

27. Pierre CASSOU-NOGUÈS, Les Démons de Gödel. Logique et folie, Paris, Seuil, 2007, p. 121-126.

28. John R. LUCAS, « Minds, machines and Gödel », Philosophy, vol. 36, no 137, 1961, p. 112-127.

29. Hilary W. PUTNAM, Raison, vérité et histoire, trad. Abel Gerschenfeld, Paris, Minuit, 1984, p. 15-17.

30. Ibid., p. 25.

31. G. DELEUZE, Logique du sens, op. cit., p. 87-88

32. Emily M. BENDER, Timnit GEBRU, Angelina MCMILLAN-MAJOR et Shmargaret SHMITCHELL, « On the dangers of stochastic parrots : Can language models be too big ? », in Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ‘21), New York, Association for Computing Machinery, p. 610-623.

33. John Rupert FIRTH, « A synopsis of linguistic theory, 1930-1955 » (1957), Studies in Linguistic Analysis, Oxford, Blackwell, 1962, p. 7-8.

34. Gilles DELEUZE, L’Épuisé, in Samuel BECKETT, Quad et autres pièces pour la télévision, trad. Édith Fournier, Paris, Minuit, 1992, p. 61.

35. Samuel BECKETT, Malone meurt, Paris, Minuit, 2004, p. 66.

36. Bertrand Russell, « On denoting » (1905), in Logic and Knowledge, New York, Macmillan, 1956, p. 39-56.

37. Fido le chien renvoie directement à Fido le nom du chien.

38. S. BECKETT, Malone meurt, op. cit., p. 177.

39. Ibid., p. 11

40. Samuel BECKETT, L’Innommable, Paris, Minuit, 2004, p. 210.

41. Joseph WEIZENBAUM, « ELIZA – A computer program for the study of natural language communication between man and machine », Communications of the ACM, vol. 9, no 1, 1966.

42. Morgane TUAL, « On a testé SocialAI, le réseau social sans êtres humains », Le Monde, 30 septembre 2024.

43. H. PUTNAM, Raison, vérité et histoire, op. cit., p. 21.

44. L. WITTGENSTEIN, Tractatus logico-philosophicus, op. cit., p. 93

45. S. BECKETT, L’Innommable, op. cit., 97

46. G. DELEUZE, L’Épuisé, op. cit., p. 66

47. Ibid., p. 67

48. Michel FOUCAULT, Les Mots et les Choses. Une archéologie des sciences humaines, Paris, Gallimard, 1966.

49. G. DELEUZE, L’Épuisé, op. cit., p. 69

50. Wesley GOATLEY, Chthonia, 2020, <https://vimeo.com/351429114>.

51. G. DELEUZE, L’Épuisé, op. cit., p. 79

52. Vilém FLUSSER, La Civilisation des médias, trad. Claude Maillard, Belval, Circé, 2006, p. 67.

53. G. DELEUZE, L’Épuisé, op. cit., p. 77-78

54. H. BERGSON, Matière et mémoire, op. cit., p. 86.

55. Pierre JANET, L’Automatisme psychologique. Essai de psychologie expérimentale sur les formes inférieures de l’activité humaine (1889), Paris, Société Pierre Janet, Laboratoire de psychologie pathologique de la Sorbonne, 1973, p. 199.

56. Ibid., p. 432.

57. Lewis CARROLL, De l’autre côté du miroir, trad. H. Parisot, Paris, Flammarion, 1969, p. 73.

Au premier plan, une jeune femme vêtue de blanc; derrière elle une femme plus âgée la tient par les épaules le regard dans le vide; deux autres mains sont posées sur l'épaule et le buste de la première.

Revenir au texte courant

3

L’IA enfant et l’enfant IA

« – Je propose que nous fabriquions un robot enfant. Qui puisse aimer. Un robot enfant qui pourra aimer sincèrement le parent ou les parents par lesquels il aura été empreint d’un amour qui ne finira jamais. – Un meca substitut d’enfant ? – Mais un méca doté d’un esprit. Avec un feedback neuronal. Vous voyez, ce que je propose, c’est que l’amour va devenir la clé par laquelle ils acquerront une sorte de subconscient. Ce qu’ils n’auraient jamais eu. Un monde intérieur de métaphores, d’intuitions, de raisonnements auto-motivés. De rêves. »

Steven SPIELBERG,
A.I. Intelligence artificielle, 2001.

« Au lieu de produire un programme qui simule l’esprit de l’adulte, pourquoi ne pas plutôt essayer d’en produire un qui simule celui de l’enfant ? S’il était alors soumis à une éducation appropriée, on aboutirait au cerveau humain. »

Alan TURING,
« Les ordinateurs et l’intelligence », 1950.

Une récente étude, menée entre 2022 et 2024 par des chercheurs de l’université de New York, a de quoi déconcerter nos amis linguistes. Elle montre qu’il est possible de modéliser l’apprentissage du langage avec une IA LLM en utilisant la captation perceptive et phonétique d’un enfant, de ses six mois jusqu’à l’âge de 2 ans1. En appareillant Sam, un bébé australien, d’une caméra frontale et d’un micro, les scientifiques sont parvenus à entraîner une IA à apprendre des mots d’anglais en lien avec des images et des sons perçus. Cet apprentissage du langage sur des small data, par contraste entre les différentes images et les différents sons, laisse entrevoir de nouvelles fonctionnalités pour l’IA LLM. Plus généralement, cela questionne le fondement de toute codification langagière, voire de toute connaissance. Notre pensée naîtrait-elle de l’agencement de sons et d’images ? Les chercheurs de New York auraient-il finalement validé la thèse de Cratyle, à savoir que les mots sont une imitation de la matérialité des choses2 ? Ou serait-ce la structure de notre propre langage qui nous invite à voir dans la répétition de l’IA un reflet linguistique ? Si on en croit les auteurs de l’étude new-yorkaise, ces derniers ont « constaté que le CVCL (Child’s View for Contrastive Learning model) peut acquérir des correspondances mot-référent par un apprentissage naturaliste, les générer au-delà des référents visuels spécifiques dans l’environnement de l’enfant, et même aligner ses représentations visuelles et linguistiques3 ». Autrement dit, l’IA serait capable d’une reconnaissance des mots et des choses à partir de la mise en contraste des observations du bébé (passées à la moulinette de milliards de paramètres de programmation). La machinerie des IA LLM induirait-elle des connaissances sur l’existence des choses dans le monde ? Aurait-on ainsi résolu le mystère de l’apprentissage ? Il est vrai que, depuis un certain nombre d’années, on entend parler de machines qui apprennent. Mais qu’est-ce que cela signifie ?

Le machine learning

Le machine learning désigne aujourd’hui trois méthodes de programmation : (1) l’apprentissage supervisé, (2) l’apprentissage par renforcement et (3) l’apprentissage non supervisé4. Avec l’apprentissage supervisé, pour explorer les données, il est possible de modifier, hiérarchiser et ordonner l’activation de neurones formels dans le programme en définissant au préalable les seuils d’activation et, plus généralement, la distribution de l’information : la machine agence donc des données selon un ensemble de règles préalablement définies par l’humain5 ; la structure est totalement hétéronome. Avec l’apprentissage par renforcement, l’activation des neurones formels est orientée par un système de récompense et de punition d’ordre comportemental. Les seuils d’activation des neurones s’affinent avec l’activité de la machine pour perfectionner les fonctions. Le traitement de données s’améliore donc automatiquement par l’entraînement6. Dans ces programmes, le cadre est plus souple. Mais la supervision dépend tout de même de la règle de renforcement qu’on lui attribue : il y a un positif et un négatif préalablement définis par l’humain. Enfin, dans l’apprentissage automatique non supervisé, l’activation des neurones formels est incontrôlée et générée par la machine elle-même au fil de l’exploration des données. La machine produit automatiquement des modèles d’activation des neurones à partir des corrélations qu’elle découvre en sondant les big data7. Toutefois, en laissant l’IA opérer sans aucune supervision, les résultats sont souvent peu fiables. Cela produit en général de fausses corrélations, cum hoc sed non propter hoc. Il faut donc en permanence vérifier les résultats et affiner le calibrage. En amont comme en aval, il y a de l’humain pour superviser l’apprentissage des machines.

Les progrès de l’IA en matière d’apprentissage ne s’arrêtent cependant pas là. Une nouvelle étape du machine learning8 vient d’être franchie. Les IA LLM, telles que ChatGPT, s’améliorent non plus simplement en affinant leurs paramètres à partir des big data mais en démultipliant le nombre de leurs paramètres9. C’est maintenant la taille des modèles, plutôt que la taille des données, qui compte. Avec le développement de ChatGPT.3, les chercheurs ont observé dès la phase d’acquisition du langage un fonctionnement optimal sans entraînement sur des big data. Peut-être sommes-nous entrés dans une nouvelle ère. L’IA serait-elle sur le point d’acquérir une programmation lui permettant de comprendre le monde ? Il semblerait en effet que les IA LLM, telles que ChatGPT ou le CVCL, soient dorénavant capables de reconnaître et produire des textes et des images sans nécessairement s’entraîner sur des big data (le CVCL fonctionne d’ailleurs sur des small data d’observation). L’augmentation du nombre de paramètres permet, apparemment, une augmentation significative des performances de la machine. En saturant une IA de paramètres, on augmente la performance des fonctions. C’est en tout cas ce que les développements récents de l’IA nous montrent10. Entre 2018 et aujourd’hui, on est passé de modèles d’IA comprenant environ 10^8 paramètres à des modèles dotées de 10^12 paramètres (les modèles franchissent actuellement le billion de paramètres). Il s’agirait donc maintenant de produire des paramètres à l’infini pour faire émerger de nouvelles fonctions de représentation11. À partir d’un certain nombre de paramètres et d’un copieux corpus de textes, les IA sont appelées à développer de nouvelles facultés d’induction et d’apprentissage libre. Serait-ce là le point d’émergence de l’IA autonome ? Sommes-nous en train d’enfanter une IA capable de développer des facultés cognitives comparables, voire supérieures, aux nôtres ?

Spurious correlations

Une chose est certaine, le machine learning et les progrès récents des LLM permettent aux IA d’affiner leur propre paramétrage et d’améliorer leur fonctionnement général. L’IA établit ainsi des régularités dans un océan de données pour perfectionner ses fonctions. Mais, pour qu’il y ait une véritable intelligence qui émerge dans la machine, il faudrait que la modélisation permette à l’IA de passer d’une forme allopoïétique à une forme autopoïétique, autrement dit qu’elle parvienne à se passer de nous. Le machine learning est-il suffisant pour qu’une IA s’émancipe de la computation vers la connaissance de soi et du monde ? Le sens interne émerge-t-il du traitement logique de données sous l’impulsion des neurones formels ? Il faudrait pour cela qu’on dispose d’une règle formelle à même de lier les probabilités de la combinatoire avec soi-même et le monde. Ce dont on ne dispose pas. On dispose de calculs de probabilités très sophistiqués pour établir des corrélations et les affiner, mais pas pour définir le sens en soi et pour soi. Autrement dit, une IA peut révéler des liens factuels restés inaperçus, mais ne peut pas les distinguer de fausses corrélations. L’IA peut même décrire ses mécanismes internes, selon un ensemble de fonctionnement en boucle input-output, mais ne peut pas pour autant penser ce qu’elle dit. On ne dispose pas de code du bon sens et de la conscience.

Ce qu’on appelle les spurious correlations ou corrélations fallacieuses illustre parfaitement ce point. En naviguant dans un océan de données, une IA ne peut pas faire la différence entre une corrélation et une causalité. C’est d’ailleurs là tout le défi de la programmation : établir des règles précises qui évitent ce type d’erreur. Pour l’heure, dès lors que ça « matche » statistiquement, une IA ne fait pas la différence. Saviez-vous qu’entre 2000 et 2009 la baisse du taux de consommation de margarine était corrélée à 98,9 % à la réduction du taux de divorce dans le Maine ? Ou encore qu’entre 1999 et 2009 la croissance du budget fédéral des États-Unis alloué pour la science, l’espace et la technologie était corrélée à 99,2 % à la hausse du taux de suicides par strangulation et suffocation12 ? Faut-il donc réduire notre consommation de margarine pour sauver les couples (et favoriser le réarmement démographique) ou couper le budget tech des États-Unis pour que les suicides diminuent ? Même si ce type d’induction peut être assuré par des pétaoctets de données (10^15 octets) corrélées par des réseaux de neurones convolutifs, le bon sens nous conduit à comprendre l’absurdité de telles conjectures. Quant à l’IA, elle ne peut pas faire la différence entre la frénésie computationnelle et la réalité. Autrement dit, le machine learning se cogne la tête sur des obstacles épistémologiques majeurs.

La pêche aux données qu’effectuent les réseaux de neurones peut nous conduire à délirer le monde. Les IA restent au fond des machines allopoïétiques. Elles ne peuvent pas distinguer une corrélation fausse d’une causalité, tout simplement parce qu’elles ne pensent pas en lien avec le monde. Il leur est impossible d’avoir du bon sens. Car, dans la machine, il n’y a aucun sens ; rien qu’une combinatoire de signes a-signifiants. L’IA n’est pas dans le monde. Au mieux, elle peut servir de boussole dans un monde de données préconstruites selon des paramètres définis. Leur octroyer la capacité d’établir des preuves par apprentissage libre, les croire aveuglément, en faire un modèle d’éducation, c’est donc se condamner au non-sens. Il existe un écart essentiel entre la pensée humaine et la mise en corrélation d’occurrences statistiques du machine learning : nous sommes intuitivement capables de faire la différence entre de vraies corrélations et de fausses corrélations, alors qu’une IA ne le peut pas. Pourquoi ? Tout bonnement parce qu’il n’existe pas de règle purement formelle implémentable dans un système pour distinguer mathématiquement de fausses corrélations de vraies inductions. Si on se laisse donc berner par ce type d’IA à neurones, on met en péril le bon sens. En acceptant implicitement d’entrer dans le monde merveilleux des spurious correlations, on s’engouffre alors dans le vide de la computation.

La mémoire infinie

En un sens, l’IA ressemble à Funes, ce personnage de Borges incapable d’oublier ce qu’il perçoit et, paradoxalement, incapable de classer et de généraliser convenablement les choses perçues. Dans la nouvelle de Borges, on apprend que Funes, à la suite d’une chute de cheval, a développé une capacité cognitive hors du commun : il retient absolument tous les détails de ses rêves, de ses pensées, de ses lectures, de ses perceptions, « ce qu’il avait pensé une seule fois ne pouvait plus s’effacer de sa mémoire13 ». Il catalogue ainsi le réel et chronomètre chaque instant de la vie qui s’écoule devant lui, à la manière d’Héraclite, qui dit-on ne se baignait jamais dans le même fleuve. Funes accumule tous les détails au point de tout différencier tout le temps. Aussi, il se rappelle à la perfection de « chaque feuille de chaque arbre de chaque bois […] chacune des fois qu’il l’avait vue ou imaginée14 ». Mais ce qui pourrait sembler être un talent intellectuel se révèle être en réalité une déficience mentale, une intelligence limitée. Pour ainsi dire, Funes ne pense pas. « Il lui était difficile de comprendre que le symbole générique de chien embrassât tant d’individus dissemblables et de formes diverses. » Aucune induction ne lui était permise. « Il était le spectateur solitaire et lucide d’un monde multiforme, instantané et presque intolérablement précis15. » C’est là précisément que se noue tout notre problème de l’apprentissage ; pour apprendre, il faut être capable d’oublier et plus encore de généraliser. « Penser c’est oublier des différences, c’est généraliser, abstraire. Dans le monde surchargé de Funes il n’y avait que des détails, presque immédiats16. »

On pourrait ici faire le parallèle entre Funes et la machine universelle de Turing. D’une certaine manière, cette dernière doit accomplir le projet de Funes : coder l’ensemble des éléments du réel dans un système de signes, dans lequel la mémoire (le ruban infini) et l’apprentissage se confondent. Seulement, la machine se confronte encore une fois à un paradoxe, dont John Locke avait soulevé le problème en imaginant une langue si précise que chaque chose individuelle aurait été référencée par un mot correspondant, de sorte que « chaque pierre, chaque oiseau et chaque branche eût un nom propre17 ». Seulement, pour établir un tel langage, il faut constituer un ensemble de tous ces mots qui ne satisferait pas à la description de tous les éléments et restituerait le tout de manière imprécise. Apparemment, « Funes projeta une fois une langue analogue mais il la rejeta parce qu’elle lui semblait trop générale, trop ambiguë18 ». En effet, toute généralisation d’ensemble suppose une quasi-identité générale trop vague qui entraînerait le système à s’aliéner. Chaque mot décrivant chaque pierre apparaîtrait alors à la fois identique à son ensemble et différent de lui (ce qui nous conduit une nouvelle fois au paradoxe de Russell). Ainsi, est-il possible de passer de la collecte d’éléments particuliers à la connaissance de choses générales sans tomber dans le paradoxe ? Si on suit la logique formelle, rien n’est moins sûr.

De plus, la combinatoire engage un problème existentiel. En apprenant tout, on n’est rien, on s’annule. On s’ignore soi-même dans la multitude des détails incessants du monde. L’accumulation infinie de détails constitue une négation de soi. Comme l’écrit Nietzsche, « un homme qui serait absolument dépourvu de la faculté d’oublier et qui serait condamné à voir, en toute chose, le devenir […] ne croirait plus à son propre être, ne croirait plus en lui-même. Il verrait toutes choses se dérouler en une série de points mouvants, il se perdrait dans cette mer du devenir19 ». C’est là un point essentiel de l’apprentissage. Dans la description la plus fine du réel, on se perd dans le détail du devenir, on s’annule dans le dénombrement des choses, pour n’être plus rien. On se rappelle les mots de Malone qui, face à une mort imminente, fait l’inventaire des choses qui l’entourent pour se nier : « Je ne dirai plus je », s’exclame-t-il. En un sens, c’est là une différence essentielle entre la machine allopoïétique et la machine autopoïétique. La première s’aliène dans l’accumulation des connaissances au point de nier son existence dans le flux continu de signes, alors que la seconde affirme son existence dans l’oubli sélectif et la synthèse du monde.

Le paradoxe de Hempel

Même si les développements récents de l’IA LLM laissent entrevoir des prouesses inégalées dans le traitement de données, force est de constater qu’il subsiste une problématique fondamentale, qui hante la philosophie depuis Hume20. Comment passer de la collection d’observations singulières et hétérogènes à des vérités générales ? Sait-on que le soleil se lèvera demain parce qu’on a vu le soleil se lever tous les jours de notre vie ? Si on était Funes, chaque lever de soleil serait considéré dans le grain le plus fin de la singularité, ce qui empêcherait d’en induire une loi générale. Il y aurait donc autant de différents soleils que de levers. Si bien qu’il y aurait autant de vérité à dire « le soleil se lèvera demain » que de dire « le soleil ne se lèvera pas demain ». Comme le souligne le logicien Carl Gustav Hempel, si on applique la règle d’induction (passage de cas particuliers au général) à l’apprentissage, on ne parvient pas nécessairement à fonder une connaissance sensée21. L’induction, que nous opérons constamment au cours de nos vies et qui nous amène à déterminer que tous les corbeaux sont noirs et que les chiens ne sont pas des chats, ne possède pas de formulation logique précise et définitive. On ne dispose pas du code de l’induction ; la loi des grands nombres n’est pas suffisante pour faire émerger des formes générales dans notre esprit. En résumé, le paradoxe de Hempel démontre qu’une représentation générale ne trouve pas sa confirmation par la simple collecte de cas particuliers. L’accumulation de données confirmant une forme générale n’est pas suffisante pour prouver sa vérité et donc pour apprendre quelque chose de quelque chose. Imaginons à la manière de Hempel une IA tâchant de prouver l’existence des corbeaux noirs en explorant le monde. Cette dernière pourrait, par contraste catégoriel et chromatique ou en suivant une règle de renforcement, prouver l’existence des corbeaux noirs en observant ces derniers, mais également en observant des objets et des êtres qui ne seraient ni noirs ni des corbeaux. Si donc on considère quatre objets, (a) un corbeau noir, (b) un corbeau non noir, (c) un non-corbeau noir et (d) un non-corbeau non noir, on peut dire que (a) et (d) confirment l’existence desdits corbeaux noirs.

Ainsi, en accumulant des données par l’observation de (a) un corbeau noir et de (d) un non-corbeau non noir, on parvient à prouver la proposition S_1 « si quelque chose est un corbeau, alors il est noir » par équivalence à S_2 « si quelque chose n’est pas noir, alors ce n’est pas un corbeau ». Comme l’indique Hempel, « ce qui confirme (ou réfute) une des deux propositions équivalentes, confirme (ou réfute) l’autre proposition22 ». D’un point de vue logico-formel, les deux propositions se valent pour prouver l’hypothèse. Autrement dit, les transformations logiques par équivalence réversible permettent de considérer que l’hypothèse « tous les corbeaux sont noirs » est confirmée dès lors qu’on observe une feuille verte, un téléphone rouge, un ballon gris, quoi que ce soit qui n’est pas un corbeau et n’est pas noir. Mais alors où sont passés les corbeaux noirs ? Nous voilà maintenant en train de faire de l’ornithologie à huis clos en collectant toutes les choses qui ne sont ni corbeaux ni noires. C’est pratique, grâce à l’induction on peut accumuler des preuves de l’existence des extraterrestres verts dès lors qu’on observe des chiens au pelage blanc, ou encore renforcer la certitude de l’existence de la souris verte en observant des escargots marron.

Figure 5. S1 = objet x est à la fois « corbeau » et « noir » ; S2 = objet x est à la fois « non noir » et « non-corbeau ». La différence propositionnelle est évidente visuellement mais se révèle pourtant identique logiquement et donc imperceptible dans le programme d’une machine.

C’est en tout cas ce que le machine learning semble prétendre. Un enfant IA pourrait donc apprendre l’ornithologie en restant dans sa chambre à contempler ses jouets. Mais, on le voit bien, tout cela est absurde. L’accumulation de données « non-corbeau non noir » peut tout autant servir à confirmer l’hypothèse « il n’existe pas de corbeaux noirs » que celle stipulant qu’« il existe des corbeaux noirs ». De ce fait, l’accumulation de données nous amène à une situation paradoxale : on valide à partir des mêmes données une hypothèse et son contraire ; le principe de l’induction rentre alors en conflit avec le principe de non-contradiction. Comment cela est-il possible ? Avons-nous loupé quelque chose en route. C’est là un piège de la logique inductive : d’un point de vue strictement formel, les preuves qu’on collecte peuvent aussi bien confirmer l’hypothèse de l’existence que celle de la non-existence. Il est donc paradoxal de fonder l’induction sur la simple collection et mise en contraste d’objets. Il y a semble-t-il quelque chose qui manque à la machine. Mais qu’est-ce donc que cette incomplétude de l’apprentissage qui échappe à l’IA ? Serait-ce un rapport à soi autopoïétique qui s’efface dans le détail des choses ?

L’IA germinale

Peut-être que l’accession de l’IA au bon sens n’est qu’une question de temps. Les partisans de l’IA générale (IAG) en sont persuadés. Certains imaginent déjà une individuation psychologique qui lui serait propre. Par une éducation appropriée, les IA pourraient acquérir la « capacité d’atteindre des objectifs complexes dans un environnement complexe23 ». Seulement, l’adaptation de l’algorithme (réseau de neurones) en relation avec un milieu (en l’occurrence des big data) suffit-elle à faire de l’IA un être sentient ?

En développant une IA depuis le germe jusqu’à l’individu, à partir de réseaux de neurones convolutifs qui apprennent selon des milliards de paramètres, parviendra-t-on à coder les Cn2, ou même à produire une superintelligence comme l’espèrent Nick Bostrom et Ray Kurzweil24 ? Les théoriciens de l’IAG travaillent d’arrache-pied à la conception d’un tel agencement organique fait de multiples sous-IA capables de se combiner les unes avec les autres pour simuler toutes les formes d’intelligence et autoréguler l’ensemble. « Imaginez un processus de développement dans lequel l’élaboration et le remaniement occasionnel des sous-systèmes peuvent coopter n’importe quel degré d’intelligence, aussi petit soit-il, manifesté par le supersystème. Il en résulterait une conception fondamentalement différente et une nouvelle approche de l’intelligence artificielle […] l’IA germinale (AI Seed)25. » Cette IA germinale, imaginée par le blogueur et écrivain Eliezer Yudkowsky, serait en théorie capable de simuler l’individuation psychologique en améliorant en permanence ses sous-systèmes de réseaux de neurones. L’IA germinale (notre nouveau totem connexionniste) serait donc le prototype d’une machine universelle autopoïétique, capable de produire une version améliorée de sa propre architecture en modifiant ses composants algorithmiques pour l’adapter à la complexité du milieu externe au fur et à mesure de son existence.

Cette conception de l’IAG converge de plus en plus avec le modèle de l’apprentissage des enfants développé par la psychologie du développement. Les psychologues envisagent d’ailleurs à leur manière à quoi pourrait ressembler une IA enfant capable d’apprendre. On pourrait même aller jusqu’à dire que la psychologie cognitive actuelle participe pleinement à la codification de l’intuition (Cn2) et de la logique (Cn1). Mais, bien que les avancées permises par l’imagerie cérébrale et les expériences comportementales soient importantes, il subsiste une incomplétude dans la codification – une sorte de système qui échappe au modèle et qui pourtant se trouve être la pierre angulaire de la cognition. Il s’agit du système inhibiteur du cortex préfrontal. Ce dernier, capable de faire passer le langage des mots aux structures et de jouer avec les règles du sens n’est pas encore codifié (voire codifiable). Autrement dit, selon la psychologie cognitive actuelle, ce qui nous distingue pour le moment des IA n’est autre que notre système inhibiteur métacognitif, capable d’établir des transitions entre l’intuition et la logique. Serait-ce une lésion du cortex préfrontal de Funes qui lui a retiré la faculté d’oublier ? Peut-être. Quoi qu’il en soit, les neuroscientifiques s’accordent à dire qu’il s’agit là de l’aire cérébrale qui concentre le plus de boucles rétroactives, donc le plus d’informations. Selon le psychologue Olivier Houdé,

il faut clairement distinguer trois composantes ou circuits de l’intelligence en interaction : les heuristiques approximatives, sources de biais cognitifs (système 1) – elles sont très nombreuses et ne disparaissent pas avec l’enfance –, les algorithmes logiques exacts (système 2) et le contrôle inhibiteur (système 3), qui permet de bloquer les premières pour activer les seconds. C’est […] ce système de contrôle, d’arbitrage, la clé de l’intelligence tant humaine qu’artificielle26.

Au fond, l’intelligence proprement humaine tiendrait à ce système 3 caché dans le cortex préfrontal qui permettrait d’adapter notre cognition au monde. Pour Houdé, c’est précisément dans ce système fluide et adaptable que se cache l’intelligence qui fonde l’autonomie et nous permet de faire les bons choix au bon moment. Mais ne pourrait-on pas coder cela ?

Pourquoi pas. D’ailleurs, l’idée d’un agencement germinal de plusieurs IA imbriquées les unes dans les autres semble, à cet égard, prometteuse. Seulement, il faudrait réussir à la fois à ouvrir les programmes sur l’extérieur et, en même temps, à les tourner vers l’intérieur. C’est ce qu’envisage le psychologue cognitiviste Stanislas Dehaene :

À chaque instant, le système choisirait la sortie de l’un des programmes spécialisés et en ferait le centre d’intérêt de tout l’organisme […] chaque morceau de logiciel s’améliorerait constamment à l’aide d’une règle d’apprentissage inspirée de la biologie […] le comportement de cet organisme simulé évoquerait initialement celui d’un enfant auquel nous attribuerions spontanément un certain degré de conscience. Sans aucune intervention extérieure, il se fixerait ses propres objectifs, explorerait son environnement et découvrirait progressivement des régularités dans ses entrées ainsi que dans son organisation interne27.

Pour engendrer une telle IA enfant, il faudrait donc arriver à bâtir une structuration interne de la conscience qui resterait en même temps ouverte sur le monde. À en croire Dehaene, le véritable défi tient à l’élaboration d’un système fluide de programmes simulant le développement cognitif humain depuis l’hétéronomie vers l’autonomie. Si on parvient à transcoder le processus de développement cognitif au moyen de l’imagerie cérébrale et de la modélisation, peut-être que l’algorithme de la conscience se révélera de lui-même. Le modèle de l’« espace de travail28 » qui modélise une communication flexible, la plasticité cérébrale et l’autonomie serait donc la clé de voûte, la promesse de la venue au monde de notre progéniture de silicium.

Les métarègles de métarègles de métarègles…

L’IAG et les neurosciences cognitives semblent s’accorder pour nous dire que, en se complexifiant (en développant des règles et des métarègles), la machine tend vers l’autonomie de la conscience. Peut-on se satisfaire de cette perspective ? Pour ce qui est de la communication flexible entre les programmes ainsi que de la plasticité évolutive du système, on peut en effet l’envisager concrètement avec le deep learning et la création d’architectures complexes en réseaux de neurones. Mais, pour ce qui est de l’autonomie, rien n’est moins sûr. Comme nous l’avons vu avec les techniques de jailbreak, on peut manipuler ChatGPT en jouant avec ses règles de programmation. On peut toujours contraindre une IA à faire ce qu’on veut, car c’est un outil, un moyen en vue d’une fin. Pour que l’IA échappe au mécanisme moyen-fin, il faudrait peut-être, comme le suggère Jacques Pitrat, en faire un « métamathématicien artificiel29 » capable de découvrir des processus de décision par lui-même. L’intégration évolutive de programmes internes et externes permettrait-il ainsi de fonder l’autonomie, comme l’affirme Dehaene ?

Peut-on dire que l’IA se libérera des règles algorithmiques au moyen de métarègles émergentes ? Pour ma part, je ne le crois pas. Il me semble qu’on tombe dans une régression à l’infini, tel Achille pris au piège de la tortue30. Car des métarègles simplifiant ou modifiant les processus de décision impliquent d’autres métarègles de liaison connectant le second ordre au premier ordre. Mais pour que ces métarègles soient elles-mêmes liées aux règles algorithmiques, il faut également développer des métarègles de troisième ordre qui joueraient le rôle d’une sorte de système inhibiteur. De plus, pour que ces métarègles de métarègles se lient aux métarègles, il faut élaborer des métarègles de quatrième ordre, etc. ad infinitum. Peut-on se libérer des règles par la démultiplication infinie de métarègles ?

Loin de cette neurofiction, ce qu’on appelle aujourd’hui l’autonomie de la machine apprenante, ce n’est rien d’autre qu’un programme, défini par des billions de paramètres, qui sonde un océan de données pour affiner ses fonctions. Tout cela semble très rigide. Il ne s’agit pas d’un processus d’émergence libre qui s’affranchit de son programme mathématique pour accéder à la conscience, mais d’un système métamathématique qui affûte ses corrélations. D’ailleurs, la robustesse des modèles se juge toujours à leur capacité de produire des réponses adaptées aux questions, c’est-à-dire selon des finalités comportementales externes. Aussi, comme l’indiquait déjà dans les années 1960, Heinz von Foerster, il y a un décalage entre le tout externe et les parties internes de la machine : plus les liens entre les parties internes ou règles sont rigides (hétéronomie des éléments), plus le tout externe s’autonomise en devenant prévisible, plus la machine est digne de confiance ; au contraire, moins les liens entre les parties internes ou règles sont rigides (autonomie des éléments), plus le tout externe devient hétéronome et imprévisible, moins la machine est digne de confiance31.

C’est là une différence essentielle avec la manière dont les humains acquièrent et jouent avec les règles. Comme l’a montré Jean Piaget, la manière dont les enfants jouent aux billes dans les cours de récréation se différencie en fonction de leur âge. La progression des stades de développement met bien en évidence deux dimensions propres à l’intégration cognitive des règles dans la vie de l’enfant : (1) la pratique de la règle qui se trouve être codifiable par un ensemble de rapports comportementaux externalisés (ce qu’une IA peut reproduire) ; et (2) la conscience de la règle qui est non codifiable, car elle dépend d’un agencement social instable et donc du sens commun qui peut faire varier les règles d’une cour de récréation à une autre selon un vocabulaire et des valeurs sui generis32. Dans les deux cas, le processus d’apprentissage suit une « équilibration » entre l’individu et le milieu social. L’équilibration est un principe d’ajustement et de stabilisation qui permet d’inscrire l’expérience dans une structure cognitive au sein d’un collectif33. Mais la conscience de la règle ne dérive pas de la loi logique, elle joue avec elle au cours de la vie de l’enfant.

La pratique de la règle, c’est précisément ce que Piaget appelle un schème d’assimilation, qu’il distingue du schème d’accommodation, c’est-à-dire de la capacité d’actualiser des capacités représentatives dans une situation actuelle. Ce second schème est précisément ce qui constitue la conscience de la règle, c’est-à-dire l’aspect non codifiable du jeu. Pour ainsi dire, la pratique de la règle conduit à la formation des facultés logico-formelles impliquées dans le jeu, là où la conscience de la règle conduit vers la morale. Pour ce qui est du premier stade de la conscience de la règle (avant 3 ans), elle est non coercitive et s’apparente à un jeu inconscient purement moteur. Dans le second stade, vers 4-5 ans, l’égocentrisme s’exacerbe et la règle devient quasi divine, « sacrée et intangible, d’origine adulte et d’essence éternelle34 ». Vouloir changer la règle devient un sacrilège. Enfin, au troisième stade, vers 9 ou 10 ans, la morale émerge à partir de l’autonomie des joueurs qui, via la coopération, construisent ensemble leur personnalité. « La coopération étant source de personnalité, du même coup les règles cessent d’être extérieures. Elles deviennent tout à la fois facteurs et produits de la personnalité, selon un processus circulaire » ; seulement, « le respect mutuel ou la coopération ne sont jamais réalisés complètement. Ce sont des formes d’équilibre non seulement limitées mais idéales »35. Le jeu est toujours en tension entre le respect et l’ajustement des règles. Il y a un jeu par-delà le jeu qui fonde l’autonomie.

De l’IA enfant à l’enfant IA

Ce qu’on peut tirer de tout cela, c’est que la différence fondamentale entre l’enfant et l’IA tient précisément à la capacité d’adaptation de la règle selon les contextes et les personnes : alors que l’enfant humain donne du sens à ce qu’il fait lorsqu’il le fait, l’IA enfant ne peut acquérir la conscience de la règle qui fonde l’autonomie. Il me semble à cet égard qu’il y a un problème de principe dans le parallèle totémiste du cerveau-machine qui est fait aujourd’hui entre les réseaux de neurones et la cognition humaine dans les programmes scolaires. La perspective cognitiviste étendue du Conseil scientifique de l’éducation nationale (CSEN) conduit, en effet, à développer des programmes d’enseignement qui se focalisent sur les fonctions cognitives dans une perspective d’accumulation du savoir pour favoriser l’assimilation plutôt que l’accommodation de l’élève. D’une certaine manière, on cherche à produire des enfants IA qui ressemblent au personnage de Borges, Funes, capable de tout retenir et de tout restituer à la lettre et dans les règles du programme. L’apprentissage de la lecture est symptomatique de cette nouvelle forme de discipline cognitiviste : il faut (1) une bonne vision, (2) une bonne phonologie, (3) une connaissance des règles de correspondance graphème-phonème, (4) un vocabulaire étendu, (5) une connaissance morphologique orale et écrite, et (6) des compétences syntaxiques et sémantiques, c’est-à-dire un lexique mental36. Alors que toute la profondeur de la lecture et de l’apprentissage de la langue tient à une stimulation de l’imagination à travers des histoires, des contes, des rêves, les cognitivistes désenchantent les livres pour en faire des stimulations de l’attention. Sans joie, il n’y a pas d’apprentissage véritable. Il faut que l’enfant joue en lisant, qu’il fasse surgir l’irréel dans le réel, qu’il apprenne à aimer les livres en plongeant dans le mystère de la lecture. À la manière d’Alice qui se demande pourquoi sa sœur lit un livre où il n’y a ni images ni dialogues – avant de suivre le lapin blanc –, on pourrait se demander naïvement à quoi peut bien servir une lecture sans imagination.

Le prisme désenchanté à travers lequel le président du CSEN envisage l’apprentissage des enfants est révélateur : « Les bébés comprennent les probabilités, et celles-ci semblent profondément inscrites dans nos circuits cérébraux37 », affirme-t-il. En tant que machines statistiques sélectionnant les hypothèses vraies au fur et à mesure de leur apprentissage, les enfants l’éblouissent par leur perfectionnement supérieur à celui des IA. Quelles perspectives pédagogiques attendre de ce type de comparaisons ? À force de vouloir décrire le cerveau comme une machine stochastique, n’en vient-on pas à envisager la production d’enfants IA sans âme comme le summum de l’accomplissement humain ? Un enfant prodige, incapable de constituer son intériorité, un enfant perdu dans la logique probabilitaire, un enfant désenchanté – appelons-le Funes –, serait-ce là le projet de l’éducation nationale ?

Cette perspective peu réjouissante provient me semble-t-il d’un cercle vicieux cognitiviste qui, par pétition de principe, présuppose constamment la logique à la source de chacun de nos états mentaux. Pour Dehaene, notre inconscient comme notre conscience sont le fruit d’un système probabilitaire38. D’un point de vue épistémologique, il y a là une confusion entre l’objet et la méthode. En appréhendant le cerveau avec des outils probabilitaires, on en vient à croire qu’il est de nature probabilitaire ; de la même manière que des physiciens quantiques nous diraient que la conscience est un effet quantique39. La méthode scientifique transforme-t-elle l’objet ? Certes, pour étudier un cerveau, il faut soi-même avoir un cerveau, et pour comprendre la pensée, il faut soi-même penser. Mais si l’expérimentateur est sans doute porté à projeter une part de lui-même dans l’objet de son étude, ses outils d’analyse comportent en eux-mêmes leurs propres biais. Il en va ainsi de l’imagerie cérébrale : pour rendre lisible l’image du cerveau au moyen d’une IRM, toute une série de traitements et prétraitements sont nécessaires :

Normalisation anatomique des cerveaux (pour qu’ils se ressemblent), mise en moyenne et soustraction d’images, filtrage d’artefacts, lissage de données… avec, à chaque étape, des décisions complexes à prendre. Il faut aussi choisir les méthodes statistiques, et le seuil de « significativité » qui détermine les régions cérébrales déclarées actives marquées en couleur sur l’image. C’est là que tout se joue in fine : le choix de ce seuil décide de l’image associée à la pensée étudiée et des zones déclarées muettes, laissées dans l’ombre, même si elles participent, ne serait-ce qu’en se faisant discrètes, au fonctionnement cérébral global, et peut-être à la pensée40.

Cette construction de l’image du cerveau que décrit le philosophe polymathe Emmanuel Fournier41 illustre bien notre problème. (Re)construire la pensée à l’aide de la logique probabilitaire aboutit à n’en percevoir que la dimension probabilitaire ; de là à l’y réduire, il n’y a qu’un pas, que d’aucuns franchissent allégrement. Or, comme le souligne Edmund Husserl :

Aucune loi logique n’implique un matter of fact, pas plus que l’existence de représentations, de jugements ou d’autres phénomènes de connaissance. Aucune loi logique – selon son sens propre – n’est une loi portant sur des facticités de la vie psychique, ni par conséquent sur des représentations (c’est-à-dire des vécus de représentation), sur des jugements (c’est-à-dire des vécus de jugements) ou sur d’autre vécu psychique42.

Ni la forme ni la validité des lois de la logique probabilitaire n’impliquent de vécu psychique. Vouloir déduire ou induire de la logique probabilitaire une connaissance sur le vécu, c’est confondre bel et bien l’objet et la méthode. Le réductionnisme normatif de la logique probabilitaire des sciences cognitives en vient à confondre les lois de la logique normative et les lois de la nature. On pourra entraîner les enfants et les IA à maximiser leur cognition, ces dernières resteront prisonnières de règles de fonctionnement logiques sans pour autant développer une connaissance en profondeur de la vie ; le risque d’en priver les premiers en cantonnant leur apprentissage au machine learning est autrement préoccupant.

Incomplétude cognitive et incomplétude langagière

L’automatisation des fonctions n’implique pas l’autonomie, au même titre que la corrélation n’implique pas la causalité. Comme l’a mis en évidence Jerry Fodor, il existe une limite épistémologique majeure à la codification de nos fonctions cérébrales. Les sciences cognitives peuvent pénétrer l’algorithme de nos sens perceptifs et de notre langage, mais elles n’atteindront pas le continent des « systèmes non modulaires ». Fodor, qui pourtant est allé jusqu’à défendre, à l’instar de Chomsky, l’existence d’un langage de la pensée inné émergeant avec le cerveau par-delà le cerveau, admet qu’une part importante de notre esprit résiste à la modélisation43. Pour considérer ce qui nous échappe, il convient de délimiter ce que l’on peut coder. Selon Fodor, il s’agit des cinq sens et du langage (enfin, une partie du langage sous sa forme grammaticale). Ce sont précisément ces modules que la théorie computationnelle de l’apprentissage du CSEN entend développer dans le système éducatif ; il s’agit au fond d’implémenter des règles et des métarègles pour en simuler les connexions neuronales.

En contrepoint, l’incomplétude cognitive montre ce que cette pédagogie n’a aucune chance d’améliorer, à savoir la dotation de sens ou la signification des connaissances acquises. Ainsi, l’éducation cognitiviste permet de booster notre pratique des règles. Mais elle ne permet en rien de donner du sens à l’apprentissage et à nos vies (elle propose des méthodes métacognitives pour s’autoévaluer mais rien pour donner du sens à ce que l’on apprend). De la même manière que le perfectionnement des modules informatiques apporte de nouvelles fonctionnalités à la machine, entraîner les modules de l’esprit permettra d’améliorer les fonctions sociales des futurs travailleurs du capitalisme cognitif sans que la connaissance ait de valeur autre que celle de la performance algorithmique. Stimuler la conscience de la règle, c’est au contraire prendre le risque de générer des esprits critiques qui s’opposeront sans doute à l’irrationalité de nos modes de vie. Mais n’est-ce pas là le sens même de l’autonomie ?

J’entends déjà protester les néopositivistes totémistes. La démultiplication ad infinitum des métarègles, des règles et des paramètres d’apprentissage des IA n’a-t-elle pas au moins permis d’en finir avec le langage et l’apprentissage des langues ? Je ne le pense pas. Il me semble qu’il subsiste là encore une incomplétude que la philosophie analytique actuelle pointe depuis un moment. Toute la réflexion sur le langage ordinaire montre en effet qu’une part significative de notre langue n’est pas réductible à la logique formelle et aux règles. C’est précisément sur ce point que se situe la célèbre rupture théorique entre Wittgenstein 1 (l’auteur du laconique et oraculaire Tractatus logico-philosophicus) et Wittgenstein 2 (celui des plus expansives quoique toujours sibyllines Recherches philosophiques). Là où le premier propose de circonscrire l’ensemble de toutes les propositions possibles dans des tables de vérité, le second laisse entrevoir l’irréductibilité du langage ordinaire et de nos formes de vie en société à la codification logique. Dans le silence de Wittgenstein 1 se dessine l’incomplétude langagière dont parle Wittgenstein 2.

Pour ce dernier, le langage est essentiellement quelque chose de public (peut-être même quelque chose de l’ordre de l’éthique ou du moins de l’ethos), dont le sens (la signification) émane des usages qu’en fait la communauté linguistique. Comme l’explique Jacques Bouveresse, les philosophes qui réduisent le langage à la logique pensent (comme certains psychologues cognitivistes d’ailleurs) que nos manières quotidiennes de parler sont imprécises et inadéquates44. C’est précisément contre eux que Wittgenstein 2 affirme que notre langage ordinaire est justement ce qui est le plus adéquat ou du moins le plus conforme à nos formes de vie en société. Le sens des règles et des mots est toujours en mouvement dans les usages et l’ethos des individus (n’en déplaise au puriste de la langue française). On ne peut donc pas réduire le langage à une fonction ou à une grammaire. Le sens est produit sui generis par les usages. Autrement dit, la communauté humaine trace des lignes de démarcation entre le sens et le non-sens au milieu de la combinatoire linguistique de manière libre en produisant des jeux de langage. On génère des règles implicites ou fantômes qui permettent de distinguer au niveau de la représentation les énoncés sensés des énoncés insensés. « Lorsqu’on dit qu’une phrase est dénuée de sens, ce n’est pas parce que son sens serait quasiment dénué de sens, mais parce qu’une combinaison de mots est exclue du langage, retirée de la circulation45. » Il faut faire circuler les mots, les faire vivre, pour que circule le sens. C’est là notre legs aux générations futures et à la vie des langues humaines. C’est ainsi que les enfants qui jouent réinventent les règles du jeu et du langage à travers une forme de vie collective.

Comme l’écrit Wittgenstein 2, « on peut considérer notre langage comme une ville ancienne, comme un labyrinthe fait de ruelles et de petites places, de maisons anciennes et de maisons neuves, et d’autres que l’on a agrandies à différentes époques, le tout environné d’une multitude de nouveaux faubourgs avec leurs rues tracées de façon rectiligne et régulière, et bordées de maisons uniformes46 ». À la périphérie on peut y voir un tout ordonné, mais, à l’intérieur, c’est un labyrinthe dans lequel il faut jouer à se perdre pour mieux se retrouver ; c’est là tout le sens de notre éthique de l’éducation : faire émerger du sens et des valeurs dans l’exploration de notre monde intérieur tout bâti de mots. Je crois en ce sens qu’il n’y a pas de limite au langage. Seul notre monde est limité. Cette évidence philosophique, qui enterre Wittgenstein 1 et célèbre Wittgenstein 2, remonte en réalité à une réflexion philosophique du mathématicien et astronome jésuite Paul Guldin, qui imagine en 1622, dans ses Problema arithmeticum de rerum combinationibus, un moyen de compter toutes les langues possibles et imaginables à partir des lettres d’un alphabet et de règles de diction définies47. Il remarque avec étonnement que si on publiait des ouvrages référençant toutes les langues possibles, on recouvrirait alors la totalité du monde de bibliothèques. De là découlent trois paradoxes :

Premier paradoxe : le nombre de tous les idiomes différents résultant de la combinaison de 17 consonnes, 5 voyelles et 5 diphtongues dépasse celui de toutes les villes, places fortes, bourgs et citadelles existant sur toute la terre […]. Second paradoxe : ajoutons les mots où le nombre des lettres est impair, le nombre des idiomes dépassera alors celui de toutes les villes, etc. même si toute la surface de la terre était couverte de cités. Troisième paradoxe : autorisons cette fois le redoublement des consonnes, et il y aura davantage d’idiomes que de maisons sur la moitié de la surface de la terre […]. Un autre élargissement des règles de formation des mots permettra finalement de concevoir autant de langues qu’il y a de grains de sable aux bords des mers48.

Les combinaisons possibles du langage dépassent de loin la matérialité des choses. Vouloir lier les lois du langage et les lois empiriques est trop réducteur. On peut en théorie créer un mot pour chaque grain de sable qui borde les mers de notre monde. Mais comment en fixer le sens ? Peut-être est-ce comme dans le jeu de billes des enfants ? Après avoir pratiqué et usé des normes collectivement, on en vient à construire des châteaux de sable linguistique sur lesquels s’édifie notre conscience. Alors que l’IA se perd dans la combinatoire, au point d’inventer des combinaisons absurdes, ce que nous produisons tous ensemble épouse nos formes de vie.

Cependant, l’IA ne serait-elle pas en passe de devenir une forme de vie singulière ? En simulant tout notre langage depuis l’enfance jusqu’à l’âge adulte, l’IA enfant à naître est sans doute appelée à border les limites de notre langage pour mieux border les limites de notre monde. Seulement, ce n’est pas dans le respect des limites que se fonde la pensée. Mais bien dans le débordement incessant de notre intériorité sur le monde. Parfois, en se perdant dans les labyrinthes, on trouve des chemins de traverse qui nous conduisent à réinventer les langues, à jouer avec elles pour mieux les connaître et se connaître soi-même. Une IA ne se connaît pas elle-même à travers le langage, elle s’y perd ; alors que, nous, nous édifions des cathédrales de sens. Comme l’écrit très justement Bouveresse : « La poésie et la philosophie sont possibles parce que, si à un certain moment nous avons fini (en un sens relatif) d’apprendre à parler notre langage, nous n’avons jamais fini de l’expérimenter, d’apprendre à le connaître49. » La combinatoire des langues est si vaste qu’elle pourrait recouvrir le monde. Mais le jeu de la conscience est encore plus vaste. On pourrait bâtir la bibliothèque de Babel dans des datacenters gigantesques, au point de saturer notre horizon de détails insignifiants, cela n’épuisera pas notre pensée. Nous jouons avec le langage pour tendre vers l’infini, comme un enfant qui fait des châteaux de sable au bord de l’océan.

1. Wai Keen VONG, Wentao WANG, A. Emin ORHAN et Brenden M. LAKE, « Grounded language acquisition through the eyes and ears of a single child », Science, vol. 383, no 6682, 2024, p. 504-511.

2. PLATON, Cratyle, in Œuvres complètes, t. II, trad. Émile Chambry, Paris, Garnier, 1948.

3. W. VONG, W. WANG, A. E. ORHAN et B. M. LAKE, « Grounded language acquisition through the eyes and ears of a single child », art. cité, p. 508.

4. Yann LE CUN, Quand la machine apprend. La révolution des neurones artificiels et de l’apprentissage profond, Paris, Odile Jacob, 2019.

5. Frank ROSENBLATT, Principles of Neurodynamics, Cornell Aeronautical Laboratory, 1962.

6. John J. HOPFIELD, « Neural network and physical systems with emergent collective computational abilities », Proc. Natl. Acad. Sci. USA, vol. 79, 1982, p. 2554-2558 ; David E. RUMELHART, Geoffrey E. HINTON et Ronald J. WILLIAMS, « Learning internal representations by error propagation », in David E. RUMELHART et James MCCLELLAND (dir.), Parallel Distributed Processing : Explorations in the Microstructure of Cognition, Cambridge, MIT Press, 1986.

7. Geoffrey E. HINTON, « Boltzmann machines », in Claude SAMMUT et Geoffrey I. WEBB (dir.), Encyclopedia of Machine Learning, Boston, Springer, 2011.

8. Pour plus de détails sur ce nouveau type de modèle, cf. Alban LEVEAU-VALLIER, « Que comprend-on de ce que comprend ChatGPT ? », Multitudes, no 96, 2024.

9. Benjamin M. BROWN et al., « Language models are few-shot learners », arXiv : 2005.14165, 2020.

10. Jared KAPLAN et al. « Scaling laws for neural language models », arXiv : 2001.08361, 2020.

11. Jason WEI et al., « Emergent abilities of large language models », arXiv : 2206.07682, 2022.

12. Tyler VIGEN, Spurious Correlations, New York, Hachette Books, 2015.

13. Jorge Luis BORGES, « Funes et la mémoire », trad. Paul Verdevoye, in Fictions, Paris, Gallimard, 1983, p. 116.

14. Ibid.

15. Ibid., p. 117

16. Ibid., p. 118.

17. John LOCKE, Essai sur l’entendement humain, trad. Jean-Michel Vienne, Paris, Vrin, 2006, livre III.

18. J. L. BORGES, « Funes et la mémoire », loc. cit., p. 116

19. Friedrich NIETZSCHE, Considérations inactuelles, trad Henri Albert, Paris, Mercure de France, 1907, p. 126.

20. David HUME, Enquête sur l’entendement humain, trad. Michel Malherbe, Paris, Vrin, 2008, section IV, partie 1.

21. Carl Gustav HEMPEL, « A purely syntactical definition of confirmation », The Journal of Symbolic Logic, vol. 8, no 4, 1943. Hempel reprend la règle de Jean Nicod qui stipule que pour prouver la véracité d’une hypothèse générale « si p donc q » (p → q) on doit collecter des cas particuliers tels que « pour tout objet x, si x est p donc x est q » (x)[p (x)→q (x)]. Si on s’en tient au principe de Nicod, une donnée ne corroborant pas à la fois l’antécédent (p) et le conséquent (q) ne permet pas de confirmer la représentation générale de la chose. Prenons maintenant un exemple concret : si on applique ce critère à l’hypothèse « tous les corbeaux sont noirs » et à sa contraposée « tous les non-noirs sont des non-corbeaux », on confirme l’hypothèse lorsqu’un objet x est à la fois « corbeau » et « noir », soit S_1 : (x)[corbeau (x)→noir (x)] et lorsqu’un objet x est à la fois « non noir » et « non-corbeau », soit S_2 : (x)[¬noir (x)→¬corbeau (x)]. Ce qui dans les faits conduit à renforcer par contraste l’existence de corbeaux noirs par la collection d’objet non-corbeaux non noirs. On pourrait donc prouver l’existence générale des corbeaux noirs par leur absence. C’est là un paradoxe.

22. Carl Gustav HEMPEL, « Studies in the logic of confirmation », in Aspects of Scientific Explanation, and Other Essays in Philosophy of Science, New York, The Free Press, 1965, p. 13.

23. B. GOERTZEL et C. PENNACHIN (dir.), Artificial General Intelligence, op. cit., p. 73-74.

24. N. BOSTROM, Super intelligence, op. cit. ; Ray KURZWEIL, Humanité 2.0. La bible du changement, trad. Adeline Mesmin, Paris, M21 Éditions, 2007. Depuis les années 2000, le grand gourou de la singularité technologique, Kurzweil, directeur de l’ingénierie de Google, fait de la codification des connaissances l’avenir de notre civilisation. Il prophétise un avenir où ne survivront que les élus ayant dépassé les limites de leur corps en transcodant leur pensée et connectant leur cerveau aux machines. Il prévoit le développement d’une superintelligence machinique nous obligeant à nous augmenter pour continuer à suivre la vitesse du progrès technologique. Peu importe la manière de s’augmenter, ce qui compte selon lui, c’est de dépasser le corps par la connexion des cerveaux aux IA. En externalisant sa pensée dans un programme ou en connectant sa cervelle au réseau, nous tendons vers ce qu’il appelle la « singularité technologique ». Le moment où humanité et technologie ne feront plus qu’un. Il s’agit en somme du point d’aboutissement du capitalisme cognitif ; où absolument toute la connaissance se trouve codée et transcodée dans la machine.

25. Eliezer YUDKOWSKY, « Levels of organization in general intelligence », in B. GOERTZEL et C. PENNACHIN (dir.), Artificial General Intelligence, op. cit., p. 95

26. Olivier HOUDÉ, L’intelligence humaine n’est pas un algorithme, Paris, Odile Jacob, 2019, p. 100.

27. Stanislas DEHAENE, Le Code de la conscience, Paris, Odile Jacob, 2009, p. 353-355.

28. Stanislas DEHAENE et al., « A neuronal model of a global workspace in effortful cognitive tasks », Proc. Natl. Acad. Sci., no 95, 1998, p. 14529-1453.

29. Cette idée a été suggérée par Jacques PITRAT, « Vers un métamathématicien artificiel », in Le Concept de preuve à la lumière de l’intelligence artificielle, Paris, PUF, 1999, p. 117-137.

30. Dans le paradoxe énoncé par Lewis Carroll, la tortue finalement rattrapée par Achille propose à ce dernier de réfléchir au lien entre trois propositions euclidiennes A, B et Z portant sur les propriétés du triangle équilatéral. La tortue montre que pour inférer que si A et B sont vrais alors Z est nécessairement vrai, il faut établir un énoncé C indiquant que « si A et B sont vrais alors Z est nécessairement vrai ». Mais, pour établir le lien entre A, B, C et Z, il faut également ajouter un énoncé D inférant que « si A, B et C sont vrais, Z est nécessairement vrai », etc., etc. On tombe alors dans une régression à l’infini. Des mois plus tard, le narrateur repasse près d’Achille et la tortue, et remarque Achille en train d’écrire sur un carnet rempli, et la tortue en train de lui dire : « Avez-vous noté cette nouvelle étape ? » Cf. Lewis CARROLL, « Ce que dirent Achille et la tortue », in Logique sans peine, trad. Jean Gattegno et Ernest Coumet, Paris, Hermann, 1992, p. 242-246.

31. Heinz VON FOERSTER, Understanding Understanding : Essays on Cybernetics and Cognition, Berlin, Springer, 2003.

32. Jean PIAGET, Le Jugement moral chez l’enfant, Paris, PUF, 1973.

33. Jean PIAGET, « Le développement mental de l’enfant » (1940), in Six études, Paris, Denoël, 1987.

34. J. PIAGET, Le Jugement moral chez l’enfant, op. cit. p. 14.

35. Ibid., p. 70.

36. Stanislas DEHAENE (dir.), La Science au service de l’école, Paris, Odile Jacob, 2019, p. 39-41.

37. Stanislas DEHAENE, Apprendre ! Les talents du cerveau, le défi des machines, Paris, Odile Jacob, 2018, p. 31. (Cet ouvrage, inscrit sur la bibliographie officielle du concours de recrutement des conseillers principaux d’éducation en 2021, l’est toujours en 2024.)

38. S. DEHAENE, Le Code de la conscience, op. cit., p. 124.

39. Le physicien Roger Penrose pense qu’il existe à l’échelle quantique de notre cerveau une sorte d’algorithme non calculable qui permettrait d’expliquer l’incomplétude définie par Gödel : Roger PENROSE, The Emperor’s New Mind : Concerning Computers, Minds, and The Laws of Physics, Londres, Penguin Books, 1991.

40. Emmanuel FOURNIER, « La technique qui donne confiance. L’exemple de l’imagerie cérébrale », Multitudes, vol. 75, no 2, 2019, p. 64-65.

41. Pour plus de précisions sur les paradoxes de l’objectivation du cerveau deux ouvrages sont indispensables : Emmanuel FOURNIER, Creuser la cervelle. Variations sur l’idée de cerveau, Paris, PUF, 2012, et, du même auteur, Insouciances du cerveau, précédé de Lettre aux écervelés, Paris, Éditions de l’Éclat, 2018.

42. Edmund HUSSERL, Recherches logiques 1 : Prolégomènes à la logique pure, trad. Hubert Élie et al., Paris, PUF, 1994, p. 77.

43. Jerry A. FODOR, La Modularité de l’esprit, trad. Abel Gerschenfeld, Paris, Minuit, 1986, p. 61.

44. Jacques BOUVERESSE, La Parole malheureuse. De l’alchimie linguistique à la grammaire philosophique, Paris, Minuit, 1978, p. 334-348.

45. Ludwig WITTGENSTEIN, Recherches philosophiques, Paris, Gallimard, « Tel », 2014, p. 199.

46. Ibid., p. 34-35.

47. Ouvrage cité et commenté par Michel Fichant dans son édition critique de Gottfried Wilhelm LEIBNIZ, De l’horizon de la doctrine humaine. La restitution universelle, Paris, Vrin, 1991, p. 136-140.

48. Michel FICHANT, « Plus ultra », ibid., p. 138-139.

49. J. BOUVERESSE, La Parole malheureuse, op. cit., p. 348.

4

La panacée computationnelle

« Des tristesses […] errent innombrables au milieu des hommes : la terre est pleine de maux, la mer en est pleine ! Les maladies, les unes de jour, les autres de nuit, à leur guise, visitent les hommes, apportant la souffrance aux mortels – en silence car le sage Zeus leur a refusé la parole. »

HÉSIODE, Les Travaux et les Jours,
VIIIe siècle av. J.-C.

Dans le film Oppenheimer de Christopher Nolan (2023), consacré au « père de la bombe atomique », une anecdote importante de l’histoire des sciences a été oubliée. Bien que l’intrigue tourne autour d’une probable réaction nucléaire en chaîne entraînant la fin du monde si la bombe devait être lancée, l’échange théorique entre les physiciens Leó Szilárd, Isidor Isaac Rabi et Enrico Fermi est absent. C’est pourtant l’élément central qui permet de comprendre tout le problème épistémique qui se joue autour des probabilités de la catastrophe. Résumons donc1 : en 1930, Szilárd évalue le risque d’une réaction en chaîne si une bombe nucléaire était lancée ; ce qui conduirait à la destruction du monde. Quelques années plus tard, alors que le projet Manhattan est sur le point d’être lancé, il rencontre son ami Rabi auquel il exprime ses craintes à ce sujet. Ce dernier lui dit avoir déjà entendu parler d’une telle théorie : le physicien italien Fermi avait, dit-on, fait des calculs similaires et en était arrivé à la même conclusion. Encouragé par Rabi à appeler Fermi afin de discuter de leurs calculs respectifs, Szilárd expose avec la plus grande inquiétude ses résultats à ce dernier. Fermi l’écoute patiemment et finit par lui répondre : « Nuts ! », autrement dit « C’est fou ! », d’un air amusé. Quelques jours plus tard, Szilárd raconte à Rabi qu’il a été très désagréablement surpris par la nonchalance de Fermi, et qu’il ne sait toujours pas quel sens à attribuer à son « Nuts ! ». Lui-même étonné, Rabi va à la rencontre de Fermi lors d’un événement scientifique.

C’est là que toute cette histoire devient intéressante. Fermi confirme qu’en effet il y existe une faible probabilité que les neutrons émis par la fission de l’uranium entraînent une réaction en chaîne… mais que ce n’est pas si grave. Silence. Rabi lui demande alors quelles sont les chances que ce phénomène se produise. Après révision de ses équations, Fermi les évalue à 10 %. Cette réponse horrifie Rabi, qui lui rétorque avec angoisse que « 10 %, ce n’est pas une faible probabilité ». Fermi ne se départit pas de sa sérénité : « Si j’attrape une pneumonie et que mon médecin me dit qu’il y a une faible probabilité que je puisse en mourir, de l’ordre de 10 %, je m’en réjouirais » ; en effet, dans une telle situation, il y a 90 % de chances de s’en tirer.

Cette attitude est caractéristique de ce qu’on peut appeler le paradoxe de la décision, qui fait que tout choix qui se fonde sur des probabilités objectives tend à une maximisation ou minimisation de l’espérance – ce qui influe sur les chances réelles. Le fait qu’une probabilité soit définie objectivement (dans notre cas par la physique quantique) ne change rien au fait que le comportement de celui qui analyse cette probabilité la rend subjective. Comme le montrent les axiomes des statistiques de Leonard Savage2, les probabilités objectives sont en effet conditionnées par les probabilités subjectives ou épistémiques de celui qui les examine. C’est un élément central qu’il faut avoir en tête lorsqu’on questionne les usages de l’IA dans le domaine médical. En quantifiant tous les risques de santé depuis les gènes jusqu’à nos comportements, les IA s’immiscent dans notre subjectivité de mortel, dans notre propre appréhension de la finitude, là où les probabilités objectives sont toujours subjectives, en un mot, là où toute décision est existentielle. La froideur de l’algorithme excelle à neutraliser les biais de notre espérance de mortel qui parasite le jugement : l’IA est sans aucun doute la seule entité capable de prendre une décision objective pour notre santé, par le simple fait qu’elle ne dispose pas de subjectivité, qu’elle n’a aucune espérance, qu’elle n’est pas vivante, qu’elle ne veut que notre bien.

Déchiffrer le hasard du vivant

Avant d’entrer dans une réflexion sur le jugement médical, il me semble important de rappeler les modalités de la combinatoire à partir desquelles nos IA opèrent dans le domaine de la santé. Pour le dire simplement, dans la bibliothèque du génome humain, nous sommes comme face à la bibliothèque de Babel3. La plus grande partie de notre génome4 n’a pas de signification, elle n’est pas codante. Au sein des 3,2 milliards de paires de base composant notre génome, seuls 1,5 % (nos gènes) participent à la traduction de l’information génétique vers les protéines. Dans le grain fin des molécules, ces quelque 20 000 à 25 000 gènes actifs permettent de comprendre l’individuation du vivant, les lois de l’hérédité ainsi que la formation des maladies. Dans notre machinerie biologique, un travail de scribe et de traducteur se mêle à la combinatoire entre l’ADN et l’ARN, de proche en proche, de molécule à molécule pour favoriser l’autopoïésis. L’information se transmet ainsi au moyen de l’ARN messager qui se fait le traducteur moléculaire transportant l’information depuis les gènes vers les protéines qui agiront sur le fonctionnement et la réplication de nos cellules. Chaque fragment de notre ADN codant constitue donc une source d’information précieuse au principe de la régulation, voire de la dérégulation de l’organisme. L’homéostasie se boucle dans cette bibliothèque vivante. Mais, comme dans tout processus informationnel, l’entropie, discrète et silencieuse, guette :

Tout processus, ou événement, ou développement – appelez-le comme vous voulez –, en un mot tout ce qui se passe dans la nature signifie un accroissement de l’entropie de la partie du monde où l’événement se produit. Ainsi, un organisme vivant accroît constamment son entropie – ou, pourrait-on dire, crée de l’entropie positive – et ainsi tend à se rapprocher de l’état dangereux d’entropie maxima, qui est la mort5.

À la moindre erreur dans la réplication du code, on se trouve face à une mutation génétique. C’est d’ailleurs là ce qui explique les processus de sénescence et la mort des organismes, mais également leur évolution. Ces erreurs de traduction constituent la « seule source possible de modifications du texte génétique, seul dépositaire à son tour des structures héréditaires de l’organisme » ; « il s’ensuit nécessairement que le hasard seul est à la source de toute nouveauté, de toute création dans la biosphère »6. Selon Jacques Monod, le hasard qui favorise l’émergence de la vie comme sa dégénérescence vers la mort a deux dimensions. Il y a tout d’abord (1) le hasard opérationnel, qu’il compare à celui qui s’opère lorsqu’on lance des dés. Il s’agit d’un hasard mécanique endogène au système qui dépend de plusieurs facteurs physiques « contrôlables ». Par analogie, Monod considère qu’une erreur dans la transcription ou la traduction des gènes pourrait être maîtrisée, si on parvenait à se doter d’outils d’édition d’une très grande précision (comme les « ciseaux moléculaires » Crispr-Cas9 que l’ingénierie génétique a désormais développés). C’est précisément ce que la médecine personnalisée cherche à contrôler et à corriger en identifiant les biomarqueurs responsables des erreurs de traduction. Quant à la deuxième forme, (2) le hasard essentiel, il relève du hasard absolu, c’est-à-dire de la rencontre exogène de deux chaînes causales totalement indépendantes. C’est la rencontre de la brique qui tombe d’un toit et de la tête du passant7. C’est la rencontre des gènes et de l’environnement qui, par l’alimentation, le mode de vie, la rencontre entre les individus, changent les modalités de la traduction moléculaire et engendrent parfois des erreurs, de l’entropie, voire la mort de l’organisme.

L’IA à nos chevets

De ces deux formes de hasard découlent deux usages essentiels de l’IA dans le domaine de la santé. Tout d’abord, afin de corriger le hasard opérationnel, l’IA participe au décryptage des mécanismes génétiques. Elle repère les séquences et les variations responsables des pathologies et propose des remèdes ciblés. De l’identification des combinaisons entropiques découlent de multiples perspectives : identifier des corrélations entre les gènes et les protéines, classifier les variations significatives et trouver des molécules à même de corriger les erreurs de traduction. Dans la bibliothèque génétique, l’IA devient une boussole vers la thérapeutique. Ainsi, la médecine de précision favorise le passage des mathématiques au moléculaire, des nombres vers les molécules, là où la machine de Turing favorisait le passage des mathématiques au langage humain. Mais, à l’instar de la machine de Turing, il subsiste une incomplétude qui tient à notre ignorance relative à propos de la majeure partie du génome. À quoi servent les 98,5 % non codants de notre génome, peut-être hâtivement qualifiés d’« ADN poubelle » ? Personne ne le sait vraiment. Aussi, lorsque l’Académie nationale de médecine anticipe la production de nouvelles molécules thérapeutiques expérimentées in silico par nos IA8, ne faut-il pas s’inquiéter d’un risque in vivo ? Ne serait-ce que d’un point de vue pragmatique, la surproduction de molécules produites par IA va nécessairement engager des procédures d’évaluation accélérée et une exigence de preuve réduite pour les autorités de santé (FDA, ANSM, HAS, etc.) qui seront submergées par une avalanche de médicaments candidats à la mise sur le marché. Il y a là un défi éthique de taille pour nos agences de régulation. Sauront-elles faire face à la surproduction de médicaments ?

Quoi qu’il en soit, dans la matérialité de l’écriture génétique, l’IA participe à la correction textuelle (transcription et traduction) des gènes vers les protéines en proposant un design de molécules thérapeutiques. Là encore, il y a fort à parier que la vitesse et les performances de l’IA vont conduire à saturer le domaine en molécules candidates. C’est précisément ce que la révolution pharmacogénomique ouvre, me semble-t-il, comme horizon : produire des molécules plus rapidement en les testant in silico. Mais le projet va plus loin : en tentant de comprendre toutes les interactions moléculaires, l’objectif est de trouver des traitements adaptés à chacun. D’où l’émergence de la médecine personnalisée qui utilise le séquençage du génome pour connaître chaque variation génétique d’un individu et adapter les traitements selon sa singularité propre. Comme le note Béatrice Desvergne, la médecine personnalisée « veut développer des traitements qui tiennent compte des particularités de chaque individu. Elle veut donner le bon médicament à la bonne personne, à la bonne dose et au meilleur moment9 ». En revanche, cela a un coût. Le remède génétique développé au moyen de Crispr-Cas9 et récemment validé par la Food and Drug Administration (FDA) américaine et l’Union européenne pour traiter la drépanocytose (forme rare d’anémie) revient par exemple à ce jour à environ 2 millions d’euros10. Cette technologie serait-elle donc vouée au traitement d’une élite économique ?

Mais, dans ce cas, qu’est-ce que l’IA change à la santé du grand nombre, c’est-à-dire à la santé publique ? À mon sens, la réponse tient davantage au contrôle du hasard essentiel dont parle Monod. En développant de plus en plus de technologies qui permettent d’éviter la rencontre entre deux causalités indépendantes, on favorise une nouvelle forme de prévention. On écarte ainsi les individus potentiellement infectieux des autres, on discipline la consommation, l’activité physique, voire le temps de sommeil à l’aide d’appareils connectés. Cette maîtrise du hasard essentiel passe par la discipline du corps. On la retrouve notamment avec les modèles épidémiologiques utilisés pour implémenter le confinement durant la crise de Covid-19 : dans le modèle CovidSim de l’Imperial College of London11, le comportement des viral twins12 modélisés, appliquant des mesures barrières, permet d’imaginer les processus de stabilisation aléatoire de la contagion à partir du concours de deux forces « physiques »13. Le comportement collectif des viral twins varie ainsi selon la densité de population, sous la forme d’une force communautaire (community force) propageant le virus par l’effet d’une action de masse, alors que le comportement individuel suit une force d’infection (infectivity force) variable selon l’âge et la localisation. Cette physique sociale de la contagion a conduit la plupart des gouvernements du monde entier à contrôler le hasard essentiel en implémentant des mesures sanitaires strictes tout au long de la crise14. La modélisation a guidé les individus, en définissant des NPIs (non-pharmacological interventions) telles que le confinement, pour séparer les causalités individuelles de la causalité virale au sein d’un territoire et d’une population sous l’égide théorique de la loi d’action de masse. La modélisation a contribué à forger une représentation abstraite de la population en la dépouillant de ses dimensions sociales, économiques, ethniques et culturelles, c’est-à-dire en la réduisant à une physique sociale contrôlant les conduites. Seulement, la causalité autonome des sociétés a montré sa part d’incomplétude. Les inégalités de richesse, de genre, d’âge, d’ethnie, de culture ou encore de lieux ont conduit à des écarts imprévisibles impactant la circulation du virus. Dans le hasard essentiel, on ne peut pas circonscrire toutes les probabilités.

De même, les systèmes de monitoring des patients atteints de diabète visent à réguler leur consommation et à prévenir les risques en écartant la rencontre entre la chaîne causale de la graisse et la chaîne causale de leur appétit. Mais ce n’est pas pour autant qu’on épuise les surprises du hasard essentiel. Il y a toujours une part d’incomplétude qui subsiste même si l’outil est voué à contrôler le comportement. Depuis quelques années, cette technologie semble d’ailleurs s’étendre à une population non pathologique. L’objectif de prévention est à ce point intégré que de plus en plus d’individus se fient aux directives ou recommandations de ces technologies médicales pour y ajuster leur comportement. On utilise des applications sur son smartphone pour optimiser sa santé, on fait séquencer son génome pour identifier d’éventuelles prédispositions ou mutations délétères et on contrôle ses fonctions vitales sans qu’une souffrance ou une maladie diagnostiquée en aient suscité le besoin. L’homme normal est devenu un potentiel de pathologies. En arrive-t-on à cette nouvelle médecine « “sans médecin ni malade” qui dégage des malades potentiels et des sujets à risque, qui […] substitue au corps individuel ou numérique le chiffre d’une matière “dividuelle” à contrôler15 », dont parlait déjà Deleuze dans les années 1990 ?

La médecine personnalisée et les big data

L’IA serait-elle sur le point de prendre la place du médecin comme certains l’affirment ? Une chose est certaine, nous sommes face à une avalanche de données (génomiques, transcriptomiques, métabolomiques, exposomiques, cliniques, neurologiques, comportementales, d’images médicales, etc.) qu’une intelligence humaine ne peut pas traiter sans l’aide de l’IA. Cela tient précisément à la double nature du hasard décrite par Monod. Étant donné que les variations caractérisant un individu s’inscrivent aussi bien au niveau du hasard moléculaire qu’au niveau du hasard de chaînes causales indépendantes, il faut, pour saisir les risques qui pèsent sur nous, mêler les données moléculaires aux données cliniques, les combiner à nos déplacements et à notre comportement. De là découle le projet de la « médecine translationnelle16 », appelée à combiner toutes les données de santé au moyen de l’IA pour développer ce que j’appelle la panacée computationnelle. Mais ne tombe-t-on pas alors dans un dénombrement infini ?

Prenons par exemple les données génomiques : l’ADN, présent dans le noyau de chacune des trente mille milliards de cellules qui composent notre corps, se décode et se transcode selon de multiples variations possibles17. Les avancées de la médecine personnalisée18 tiennent justement à l’étude et à la compréhension de ces variations génétiques. Lorsque ces variations se retrouvent dans 1 % de la population, on parle de polymorphisme et on les classe selon la modification du code qu’elles entraînent. Si la modification porte sur un nucléotide dans un fragment d’ADN, si par exemple on trouve un G (guanine) à la place d’un T (thymine) dans 1 % de cas, on aura alors ce qu’on appelle un SNP (single nucleotide polymorphism). Si la modification porte sur une séquence de deux ou trois nucléotides on la classera en STR (short tandem repeats), etc., jusqu’à identifier des séquences de gènes complets responsables de maladies.

On référence ainsi un très grand nombre des séquences ayant une potentielle signification génétique dans la formation des maladies. La combinatoire s’opère sur des quantités immenses de données qu’il devient difficile de stocker et d’analyser. D’un individu à un autre (sans lien de parenté), on compte en effet environ 3 millions de SNP différents. À l’échelle de la population humaine, on dénombre jusqu’à 200 millions de SNP différents. Aussi, même si on est parvenu depuis 2003 à séquencer le génome humain dans sa totalité, la voie vers la panacée computationnelle semble encore lointaine tant les variations et les combinaisons sont grandes. Mais le projet est bien là. La médecine personnalisée est appelée à prédire les maladies et à préciser les traitements en fonction de la singularité du patient. En comprenant mieux les variations au principe des maladies, l’IA doit permettre d’anticiper leur évolution et préciser les remèdes adaptés à chacun. Dans cette dynamique de recherche, des consortiums internationaux tels qu’ENCODE visent d’ailleurs à cataloguer toutes les séquences d’ADN codantes et non codantes afin de mieux comprendre le fonctionnement du génome (les chercheurs estiment d’ailleurs qu’on pourrait ainsi attribuer une fonction à 80 % du génome dans les années à venir). Mais, même si la cartographie complète des variations génétiques en lien avec les dossiers des patients est une voie d’avenir pour la médecine personnalisée, un grand nombre de difficultés pratiques rendent ces ambitions difficiles à atteindre.

La réponse doit venir de l’IA. En tant qu’outil de compression et d’analyse des données, elle doit permettre d’établir des corrélations dans cet océan de données. On peut utiliser par exemple le machine learning pour mieux classifier les maladies en fonction des SNP19. Mais il faut bien mesurer la complexité des opérations sous-jacentes et des défis que cela suppose. Rien qu’avec un nombre limité de patients (une cohorte de 10 individus), on peut élaborer des inférences sur des big data ayant une large portée populationnelle du fait qu’on navigue dans des données longitudinales extrêmement riches en informations. Une étude comme TransCUPtomics20 portant sur les cancers d’origines inconnues nécessite l’usage d’IA pour traiter les données de quelques dizaines de patients. Mais de telles explorations en profondeur requièrent surtout l’ingéniosité des chercheurs pour distinguer les spurious correlations des causalités biomédicales. Il leur faut élaborer des hypothèses et les vérifier. Par exemple, la découverte de la mutation rare du gène CCR-5 (CCR5-Δ32) qui immunise contre le VIH ou, plus récemment, celle des auto-anticorps neutralisant l’IFNα, l’IFNβ et/ou l’IFNω responsables de 15 à 20 % des pneumonies critiques liées au SARS-CoV-221 ont demandé l’élaboration et l’évaluation d’hypothèses pour établir une induction juste (passage du particulier au général).

Ainsi, les mutations génétiques identifiées sur quelques rares patients permettent déjà d’entrevoir la portée de l’association inductive entre IA et recherche génétique. Cela ouvre des pistes thérapeutiques inespérées. Récemment, un unique patient a guéri du VIH après une transplantation de cellules souches provenant d’un individu ayant la mutation CCR5-Δ3222. Imaginez donc ce que l’on pourrait faire si l’on séquençait les gènes de tout le monde et qu’on mêlait toutes les données médicales dans une combinatoire gigantesque. Toutefois, la quantité ne fait pas la qualité. Il n’est pas certain qu’en saturant la recherche en données, on ait une meilleure lecture des pathologies. Toute la difficulté est d’avoir assez de données pour permettre de bonnes inférences sans noyer les chercheurs dans un océan de bruit.

Les 4P et les 5V de la médecine personnalisée

Dans l’entremêlement des données génomiques et cliniques au fondement de la médecine personnalisée, ce sont le rêve et les limites de la panacée de demain qui se révèlent. Dans l’association des 4P de la médecine de précision et des 5V des big data, on peut identifier quelques limites au développement de cette nouvelle médecine. Considérons donc quelques éléments définitionnels : la médecine personnalisée se définit par P_1 = la personnalisation du traitement qui vise à prendre en compte les données génomiques du patient pour proposer le meilleur traitement possible ; P_2 = la prédiction qui mesure les risques et les probabilités qu’une personne développe une pathologie sur la base des données disponibles ; P_3 = la prévention qui évalue, à partir de la mise en évidence des facteurs de risque, les traitements ou les comportements les plus adaptés pour minimiser lesdits risques ; enfin P_4 = la participation du patient qui est responsable de son comportement et de ses décisions à la lumière des risques qu’il encourt. Les 5V du big data renvoient quant à eux à V_1 = Volume : le traitement s’établit sur une quantité de données de l’ordre du pétaoctet (10^15 octets) ; V_2 = Vélocité : le traitement des données se fait à grande vitesse ; V_3 = Variété : les données sont hétérogènes ; V_4 = Véracité : la qualité des données est importante, il faut donc évaluer ces dernières pour savoir si elles sont erronées ou incomplètes ; V_5 = Valeur : il s’agit de l’utilité des données pour les services auxquels elles s’appliquent.

À partir de ces définitions, on peut différencier les dimensions qui dépendent de la cognition humaine de celles qui dépendent de la computation de l’IA. Il est très facile de comprendre que P_1 et P_2 relèvent du programme de l’IA. Mais force est de constater qu’une personne n’est pas réductible à la somme de ses parties moléculaires et qu’il subsiste une zone grise dans les probabilités qu’elle développe une pathologie, si par exemple on considère les facteurs comportementaux ou environnementaux qui échappent à la combinatoire et problématisent P_3. V_1, V_2 et V_3 relèvent elles aussi à l’évidence de la combinatoire des données. Mais ce qui donne de la valeur aux précédentes, ce sont P_4, V_4 et V_5. Sans la participation du patient, tout traitement (comme toutes mesures de prévention) est nul est non avenu. De même, l’évaluation de la validité des données et les ordres d’importance dépendent de l’humain.

Le croisement de ces dimensions ne conduit-il pas justement à notre paradoxe de la décision ? En entremêlant des probabilités subjectives à des probabilités objectives, ne provoque-t-on pas des écarts dans l’appréciation réelle de notre santé ? Ne serait-ce pas là le problème même de la médecine personnalisée, celui de devoir se référer à de l’humain dans une combinatoire quasi infinie ?

Les transhumanistes et autres technophiles n’hésiteraient pas à dire qu’il faut remplacer le médecin par l’IA sur l’ensemble des dimensions pour éviter les biais du jugement. Pourtant, à se fier à la machine, le risque de spurious correlations est bien réel. Outre les raisons déjà évoquées, celles-ci tiennent également, dans le domaine scientifique ou médical, à des causes spécifiques. De fait, comme l’a montré Sabina Leonelli, les données peuvent corrompre le système23.

Tout d’abord, nous le savons, les méthodes de classification en science varient dans le temps. À tel point qu’il est difficile de comprendre les propriétés d’une ancienne base de données sans connaître les principes de catégorisation et la méthode utilisés à l’époque pour classifier les éléments. L’« incommensurabilité24 » entre les anciens et les nouveaux paradigmes rend pratiquement impossible la conversion des résultats des uns aux autres. Autrement dit, une part des données est intraduisible. Aussi, le recyclage d’anciennes bases de données élaborées à l’aide de méthodes oubliées pourrait entraîner des biais insoupçonnés.

Ensuite, la qualité des données définit la qualité du résultat. Par exemple, les SNP identifiés par une machine sont aujourd’hui préférés aux données physiologiques collectées par le médecin par souci de standardisation. Cependant, cette standardisation s’opère dans l’oubli du contexte et des techniques de prélèvement d’un matériel souvent sensible aux changements thermiques ou à la lumière, ce qui questionne la fiabilité des données.

Il existe également un risque de surenchère pour vendre des données ou valoriser des publications. Or un jeu de données, même s’il repose sur un grand nombre d’éléments, ne constitue jamais qu’un échantillon de la réalité. Ignorer ce caractère sélectif est un biais consistant à prendre la partie pour le tout et à en déduire un résultat surdimensionné sur un aspect spécifique d’un problème. Par exemple, les données biologiques utilisées dans la recherche médicale sont collectées majoritairement auprès d’hommes blancs et utilisées comme standards à l’échelle de la population humaine. Ce problème constitue un véritable obstacle épistémologique à l’émergence de la médecine personnalisée.

Enfin, l’actualité récente a illustré des pratiques de corruption délibérée des données pour améliorer leur valeur marchande, ce qui soulève le problème de la privatisation de la recherche.

La mort de la clinique

Foucault soulignait déjà il y a un demi-siècle que « le médecin a peu à peu cessé d’être lui-même le lieu d’enregistrement et d’interprétation de l’information […] à côté de lui, en dehors de lui, se sont constitués des masses documentaires, des instruments de corrélation et des techniques d’analyse, qu’il a, certes, à utiliser, mais qui modifient, à l’égard du malade, sa position de sujet regardant25 ». En un sens, le médecin s’est peu à peu effacé du regard médical porté sur le patient. Depuis quelques années, on parle même de « mort de la clinique26 » en réponse à l’œuvre de Foucault Naissance de la clinique. Pour certains auteurs comme Donna Haraway et Nikolas Rose, la spatialisation du regard médical que Foucault avait relevée à travers la formation du système des hôpitaux universitaires et de l’anatomo-pathologie à la fin du XVIIIe siècle a été remplacée par un regard génomique. Le développement de la médecine personnalisée semble conduire à penser que le praticien ne serait plus nécessaire pour établir un diagnostic et prescrire un traitement. En un sens, il est possible que la génomique mêlée à l’IA concrétise le transfert des formes de la rationalité médicale depuis le médecin vers la machine27. Ce transfert a sans aucun doute été favorisé par la découverte implicite du paradoxe de la décision, à savoir que les probabilités subjectives se mêlaient inextricablement aux probabilités objectives dans l’observation et l’expérimentation. C’est en tout cas ce que l’histoire des essais cliniques semble montrer.

Dès les années 1840, le polytechnicien et médecin Jules Gavarret met en évidence la nécessité de limiter le hasard essentiel de l’expérimentation pour mieux laisser apparaître le hasard opérationnel28. Bien que la loi des grands nombres n’ait été appliquée qu’un siècle plus tard à l’expérimentation thérapeutique, le constat s’imposait que le problème de l’objectivité clinique tenait à l’entremêlement entre probabilités objectives et subjectives. Les biais dans les conditions de l’expérimentation, les variations provenant des individus et les changements provenant du jugement des chercheurs appelaient une réforme fondamentale, qui a conduit à la fondation des essais cliniques randomisés, aujourd’hui considérés comme le gold standard de la médecine. En 1937, l’épidémiologiste et statisticien Austin Bradford Hill met en œuvre le principe du tirage au sort anonymisé des malades pour constituer un groupe témoin non soumis à l’essai thérapeutique et un autre recevant le traitement afin d’effectuer des comparaisons en double aveugle. Pour éviter les biais subjectifs dans l’expérimentation, il s’agit donc de corriger le hasard par le hasard : « Les effets d’un traitement doivent être comparés avec les effets d’un autre traitement… et parce que les patients varient dans leur réponse, nous devons en avoir un grand nombre pour rendre la comparaison informative et convaincante29 » écrit-il. Pour garantir une évaluation objective des résultats, Hill prône l’effacement subjectif du médecin comme du patient par l’administration aléatoire du remède et du placébo. L’essai clinique randomisé a ainsi supplanté le regard clinique. Dans le prolongement de cet effacement de la subjectivité, Hill suggéra de déresponsabiliser le médecin : « Une fois qu’il a été décidé que le patient a le bon type pour être inclus dans l’essai, la méthode d’affectation par randomisation retire toute responsabilité au clinicien30. »

Héritière de cette histoire, la « médecine fondée sur les preuves » (evidence-based medicine) propose aujourd’hui un modèle de décision qui entrecoupe les preuves issues de la recherche, l’expertise clinique et les préférences du patient. Elle se définit comme l’« utilisation consciencieuse et judicieuse des meilleures données actuelles de la recherche clinique dans la prise en charge personnalisée de chaque patient31 ». Dans ce modèle, l’usage des IA par la recherche médicale soulève à nouveau le problème de l’induction discuté au chapitre précédent. Comme le rappelle en effet l’Académie nationale de médecine, « [les systèmes d’IA] ne sont pas entraînés à rechercher ou dire la vérité. Une validation humaine est donc toujours nécessaire32 ». En l’absence de règle logique permettant de distinguer une corrélation d’une causalité, la vérification humaine se révèle cruciale. Mais comment conjuguer cette contrainte avec l’obsolescence du regard médical ?

Paradoxe de la vérification

Le machine learning a produit récemment des systèmes de reconnaissance très précis en médecine. L’identification de mélanomes par des IA à réseau de neurones est aujourd’hui plus performante que celle effectuée par le meilleur de nos dermatologues33. Ce savoir-faire ne relève pas d’une induction clinique, car la maladie n’a pas la moindre signification pour la machine. Il s’agit pour elle de reconnaître l’image de lésions cutanées. La machine ne voit pas une maladie, et encore moins un malade ou de la douleur ; elle répond à des seuils d’activation. Elle n’attribue aucun sens à ce qu’elle « voit ». La reconnaissance des formes procède d’un traitement d’information physique dépourvu de contenu sémantique. On retrouve ici notre problème de Cn1 qui se font passer pour des Cn2 et entraînent des paradoxes. Dans le cas de la médecine clinique, ce problème se manifeste dans la pratique : il incombe au médecin de contrôler tous les résultats diagnostiques et pronostiques des IA. C’est là qu’émerge le paradoxe de la vérification.

Imaginons que, dans un futur proche, on implémente dans les services d’urgence des IA LLM capables de produire des diagnostics et des prescriptions à la pelle. En analysant de manière translationnelle des tonnes de données, elles pourraient produire des résultats justes dans 90 % des cas. Mais, comme une erreur grave peut apparaître à n’importe quel moment, n’importe où dans 10 % des cas, il va falloir confier aux médecins le soin de tout vérifier – pour préserver l’intégrité du serment d’Hippocrate. À n’en pas douter, ces derniers accueilleront d’abord cette technologie avec joie, tant les services d’urgence sont sur les genoux, encombrés et en sous-effectifs. Le ministère de la Santé et la direction des hôpitaux en feront d’ailleurs l’éloge en laissant miroiter le gain de temps clinique permettant le rapprochement entre médecin et patient34. Mais, au même titre que l’e-mail n’a pas fait gagner du temps aux cols blancs en remplaçant la lettre (mais a simplement augmenté leurs cadences), l’IA ne risque pas de rendre les médecins plus disponibles. L’essentiel de leurs tâches consistera à vérifier des diagnostics produits à haute fréquence par l’IA. Si bien qu’on peut aisément imaginer ce qu’il adviendra : à mesure que l’habitude s’ancrera et que la plupart des vérifications apparaîtront inutiles (dans 90 % des cas le résultat est juste), certains médecins finiront par devenir de plus en plus confiants dans les performances de la machine au point d’arrêter peu à peu de vérifier. Alors que d’autres, confrontés aux 10 % d’erreurs, s’en méfieront au point peut-être d’arrêter de l’utiliser, ce qui augmentera la part d’erreurs humaines.

On en arrive à ce que j’appelle le paradoxe de la vérification qui découle du paradoxe de la décision. Comme le montrait l’exemple de Szilárd et Fermi au début de ce chapitre, l’espérance subjective modifie les probabilités objectives. De là découlent des décisions impactant les résultats : si on ne tombe que sur les 90 % de bons résultats on augmente la confiance dans l’IA, et si on tombe sur les 10 % de mauvais résultats on diminue la confiance. L’espérance fait alors varier la probabilité objective. On peut envisager une contrainte juridique qui pousserait les médecins à vérifier impérativement chaque résultat fourni par une IA dans la prise en charge des patients. Cependant, ce qui pourrait apparaître comme une solution engendrera d’autres problèmes. Les médecins, surchargés par la double tâche de vérifier les diagnostics et de traiter les malades, pourraient également commettre des erreurs – en suspectant l’IA de se tromper plus ou moins en fonction de leur expérience, ou en pensant que la machine se trompe là où elle ne se trompe pas et ne se trompe pas là où elle se trompe. C’est à ce moment-là qu’on entre dans l’indécidabilité : sans vérification du médecin, les IA commettent des erreurs qui engagent la responsabilité des médecins ; mais, en vérifiant chaque résultat, les médecins espèrent ou doutent des performances de l’IA et commettent ainsi des erreurs.

Dans les deux cas les erreurs varieront de manière incertaine. Que faire ? Les erreurs sans vérification sont de 10 %, c’est une certitude. Mais de combien seront-elles après vérification ? Si, entre les bonnes vérifications et les mauvaises vérifications, on en arrive à 11 % d’erreurs, ne serait-il pas mieux de mettre de côté le médecin et de laisser la machine faire son travail ? D’ailleurs, il y a fort à parier qu’avec le développement des IA, notamment dans le domaine de l’imagerie médicale35 (qui représente environ 77 % des IA validées par la FDA en 2023), on en finisse par perdre des compétences essentielles à la vérification. Alors que les IA permettent de détecter et d’anticiper des lésions au niveau nanométrique et moléculaire, le coup d’œil clinique semble devenir obsolète, il doit s’allier à l’IA ou bien disparaître36. Mais que deviennent les radiologues dans un tel agencement ? Ils s’annulent, s’effacent, pour devenir des ingénieurs vérifiant un programme dont ils deviennent partie prenante, au point d’en perdre leurs compétences initiales et le sens de leur pratique.

Le démon de Laplace

L’optimisme, dit-on, est gage de longévité. Peut-être que la médecine translationnelle nous procurera la panacée computationnelle capable de tout mesurer dans ses calculs, c’est-à-dire capable de générer le passage de la probabilité à la certitude. On pourrait en effet imaginer que l’IA parvienne à circonscrire le pathologique dans la combinatoire. Si on en croit d’ailleurs Laplace, les calculs de probabilités n’existent que parce que notre entendement humain est limité et déficient. C’est une béquille dans le hasard. Selon le grand mathématicien, le monde est défini par des causalités indépendantes qui nous échappent tant leur complexité est grande. Notre faible entendement ne nous permet pas de comprendre le hasard essentiel, cette rencontre tragique entre la brique qui tombe d’un toit et la tête du passant. Mais force est de constater que « quand tous les cas sont favorables à un événement, sa probabilité se change en certitude, et son expression devient égale à l’unité. Sous ce rapport, la certitude et la probabilité sont comparables, quoiqu’il y ait une différence essentielle entre les deux états de l’esprit, lorsqu’une vérité lui est rigoureusement démontrée, ou lorsqu’il aperçoit encore une petite source d’erreur37 ».

Pour la philosophie des grands nombres, nos erreurs proviennent d’un manque d’information. Si bien que si on parvenait à circonscrire l’ensemble de toutes les données, on dépasserait alors les erreurs pour tendre vers la certitude totale. Ce serait alors l’aboutissement de la philosophie des probabilités38 qui s’est développée en médecine depuis le XVIIIe siècle autour de la loi des grands nombres de Bernoulli et que l’on retrouve exacerbée aujourd’hui dans les rêves suscités par les big data39. Comme le stipule la loi des grands nombres, une série de données prolongée à l’infinie converge vers l’espérance m dont la valeur se rapproche soit de la certitude 1, soit de l’incertitude 0. Dans le cas de la médecine translationnelle, en combinant toutes les données de santé, on calculera les chances de développer une maladie ou non comme on calcule des forces en physique. Lorsque la valeur de l’espérance s’approchera de 1, on saura que l’événement se produira, et lorsque la valeur convergera vers 0, on saura qu’il ne se produira pas.

Cela permettrait de faire de l’IA un démon de Laplace, c’est-à-dire « une intelligence qui, à un instant donné, connaîtrait toutes les forces dont la nature est animée et la situation respective des êtres qui la composent », une intelligence qui « embrasserait dans la même formule les mouvements des plus grands corps de l’univers et des plus légers atomes : rien ne serait incertain pour elle, et l’avenir, comme le passé, serait présent à ses yeux40 ». D’une certaine manière, la médecine translationnelle envisage une mise en corrélation tellement importante des données génomiques, transcriptomiques, métabolomiques, exposomiques, cliniques, etc. que l’humain ne peut plus prendre en charge la vérification totale des résultats. La machine, quant à elle, semble devenir omnisciente. Aussi, une part importante de la connaissance médicale pourrait dans les prochaines décennies devenir l’apanage de l’IA. Mais il faut bien comprendre que le hasard qui est décrypté par la machine reste une virtualité pathologique qui va dépendre de choix et de subjectivations multiples. Or il subsiste une dimension essentielle de la maladie qui ne pourra pas, quoi qu’il arrive, être circonscrite dans la combinatoire : la douleur.

Le chirurgien et physiologiste René Leriche a établi une distinction fondamentale entre la douleur du laboratoire et la douleur de la maladie41. La première peut être codée à partir de l’imagerie du système nerveux. Mais la seconde échappe inconditionnellement au code, tant elle varie en fonction de la sensibilité de l’individu. La douleur est un phénomène global et individuel qui engage l’organisme dans son ensemble et se singularise dans le malade. Pour Leriche, un individu fait sa douleur. Serait-ce là une limite infranchissable pour la médecine personnalisée, ce qui échappe inconditionnellement à la combinatoire de notre démon de Laplace ?

La clinique et la statue de Condillac

Mais ne serait-il pas envisageable qu’une IA parvienne à coder l’intuition du médecin au point de parvenir à saisir le sens de la douleur ? Selon Foucault, le regard au fondement de la clinique relève d’un processus d’enregistrement et de totalisation des symptômes et des signes visant à parler la langue de la maladie, c’est-à-dire à traduire des manifestations morbides en connaissances42. On pourrait imaginer que, dans un futur proche, les IA LLM se chargent de cette traduction de la douleur en connaissances à partir de fonctions langagières émergentes. Les limites du langage clinique se confrontent toutefois à l’inépuisable complexité des expressions du pathologique et de la douleur43. La souffrance semble parfois irréductible à la description précise des symptômes et des lésions. C’est le constat qu’avait fait Leriche en étudiant les douleurs des blessés de la Première Guerre mondiale :

J’avais pris, me semble-t-il, contact avec l’essence de la douleur, avec sa vie propre […] et j’avais voulu montrer que la douleur de l’homme qui souffre est un état bien plus complexe que ne l’enseignent les analyses physiologiques de la sensation […]. Alors que celle-ci est la réponse, toute simple, du cerveau à une excitation portée sur des récepteurs sensitifs, il y a, chez l’homme qui souffre, de nombreuses composantes du phénomène de la douleur44.

On pourrait dire qu’il y a une individuation de la douleur qui se manifeste parfois dans des zones non affectées, des membres fantômes de personnes amputées ou encore sans qu’aucune lésion ne soit identifiée.

Aussi, dans le regard clinique, les formes de la subjectivité du médecin suivent un certain ordre naturel des pathologies desquelles résultent une attention et un soin qui dépassent la somme des parties pour tenter de parler une langue étrangère, celle de la souffrance. Cela nous renvoie une nouvelle fois au problème de l’apprentissage. Pour lire et parler le langage de la maladie, il faut parfois oublier la théorie et laisser émerger la connaissance en abandonnant tout présupposé statistique de répétition et de normalisation. Il est possible que le probable subjectif ait à se plier sur une forme singulière de souffrance pour faire apparaître la connaissance et le soin. Foucault pense à ce propos la symptomatologie comme un « langage d’action » et la sémiotique comme une « mémoire calculatrice ». La langue d’action, c’est celle des gestes, des cris et des douleurs du patient alité. L’observation attentive des symptômes traduit dans un ordre sémantique une intelligibilité du malade et de sa souffrance. On ne peut réduire un malade à sa maladie. C’est pourquoi le regard clinique se veut une langue d’intuition étrangère aux catégories. Elle s’exprime à travers les corps de manière primitive et singulière. Pour Foucault, il y a chez le clinicien une mémoire calculatrice non numérique qui enregistre et totalise l’ensemble perçu. Cette mémoire irréductible à la statistique s’apparente à la mémoire primitive des signes sans nombres décrite par Condillac : « Avant qu’on eût trouvé les signes algébriques, les opérations de l’âme avaient assez d’exercice pour en amener l’invention45. » Dans cette forme de vie primitive se trouve la connaissance de la souffrance. Le regard clinique se compose d’une sémiotique primitive (qui précède le signe pathologique) en rapport avec la nature originelle de la maladie, c’est-à-dire la douleur.

Dans l’ordre de la connaissance médicale, les Cn2 sont premières, alors que, dans celui de la machine, elles sont dernières. Si l’on en croit Foucault, à l’inverse de l’esprit scientifique bachelardien, la médecine clinique naît de l’intuition du corps malade et d’un rapport particulier à la souffrance. Il faut rappeler que la clinique naît d’un art de chirurgien qui opérait sans anesthésiant, c’est-à-dire d’une pratique médicale attentive à la douleur extrême. Il fallait oser voir par-delà les lésions et rester attentif au patient pour ne pas que ce dernier sombre dans le coma blanc et se projette dans la mort. Les cliniciens, en dépouillant le regard médical de toutes les catégories préconçues, sont parvenus à connaître et à combattre les maladies par un exercice de l’attention en dialogue avec la douleur. Ce n’est donc pas le démon de Laplace qu’il faut convoquer pour comprendre ce sur quoi repose cette connaissance, mais bien la statue de Condillac. Par l’acquisition du « tact », la vision devient « regard » et saisit la souffrance. C’est alors que « le tact décompose en quelque sorte la lumière ; il sépare les couleurs, les distribue sur les objets, démêle un espace éclairé, et, dans cet espace des grandeurs et des figures, conduit mes yeux jusqu’à une certaine distance, leur ouvre le chemin par où ils doivent se porter au loin46 ». Ce tact dont parle Condillac, cette ouverture sur l’univers de l’observation, c’est le fondement de la spatialisation du regard de la clinique tel que conceptualisé par Foucault.

Depuis le XIXe siècle, l’enquête clinique s’organise sur la base de preuves visibles difficiles à traduire en nombres47. Les symptômes et les signes morbides permettent de suivre les traces menant à l’inconnu. Les inférences logiques conduisent le clinicien à découvrir ce qui provoque la souffrance. La scène s’articule autour du malade alité et de ses manifestations physiques et verbales. La reprise du sensualisme de Condillac a sous-tendu cette méthode d’observation et changé la pratique médicale. Les descriptions cliniques ont ainsi supplanté les catégories générales. Contre l’essentialisme des espèces nosographiques qui provenait de la classification en genre, famille et espèce, les cliniciens ont élevé en grandeurs les descriptions pathologiques. Les comptes rendus sur l’évolution heure par heure et jour par jour d’un patient, les écrits et les images mentales des lésions tissulaires comme les récits des douleurs éprouvées sont venus enrichir le savoir. Les maladies ne devaient en aucun cas être fixées dans des tableaux. Seule une description faite dans le grain le plus fin de l’observation et de l’attention à la douleur avait valeur de vérité. La clinique est en ce sens toujours à refaire. Il faut constamment s’adapter à la singularité de la douleur pour voir à travers le corps, l’invisible, la maladie.

L’incomplétude de la douleur

Face à la douleur d’autrui, on se retrouve comme projeté dans la langue primitive du corps. Il y a quelque chose qui outrepasse les mots. Le médecin qui s’y confronte ne peut pas se satisfaire de la science physiologique pour la comprendre. Depuis la forme de vie qui souffre vers le jeu de langage de la douleur, c’est l’individuation d’une forme de vie humaine, trop humaine qui se manifeste par-delà le formalisme de la logique et de la grammaire. C’est dans cet espace de dialogue que l’incomplétude de la douleur redouble l’incomplétude du langage.

Pour Wittgenstein 2, la capacité de l’humain à comprendre la douleur de ses semblables à travers sa langue se base sur quelque chose d’extralinguistique : une capacité à appréhender l’intériorité de l’autre sans y avoir accès. Cette saisie de l’intime prend sa source dans une espèce de réponse instinctive, c’est-à-dire dans une sensibilité à la souffrance d’autrui qui nous touche : « Être sûr qu’autrui a mal, être dans le doute à ce sujet, etc., sont autant d’espèces naturelles instinctives de rapports avec les autres hommes, et notre langage est seulement un auxiliaire et une élaboration plus poussée de ce type de conduite. Notre jeu de langage est une élaboration du comportement primitif48 », écrit-il.

Figure 6. Image du canard-lapin (anonyme, 1892). © CPA Media Pte Ltd/Alamy Banque d’images

Cette approche de l’intériorité fonde l’incomplétude de la connaissance médicale. Selon Wittgenstein 2, dans nos jeux de langage, nous avons une capacité à voir quelque chose dans quelque chose (sehen als) sans pour autant que la désignation circonscrive ce quelque chose. L’image du canard-lapin utilisée par la psychologie des formes est emblématique de cette disposition de l’individu à voir à travers les images, à rendre visible l’invisible. On peut regarder les choses sous plusieurs angles, en profondeur, en surface. Lorsqu’on est face à la souffrance, il y a ainsi une manière clinique de voir la douleur. C’est une disposition d’esprit particulière qui permet de voir que derrière le comportement de la douleur, il y a la douleur elle-même, c’est-à-dire quelque chose de ressenti par le malade. Pour Wittgenstein 2, ce n’est pas une sorte de généralisation de notre propre douleur qui permet de comprendre la douleur qu’éprouve autrui. C’est l’usage du concept de douleur qui fait sens et appelle à l’aide celui qui peut voir à travers nous. La douleur appelle à une prise en charge de l’individu. Elle convoque l’attention et le soin. Face à la douleur, le médecin se doit de comprendre son patient.

C’est là tout l’intérêt de la perspective développée par Leriche. Par-delà la douleur expérimentale, il y a la douleur-maladie qui est le fait de l’individuation elle-même :

Pourquoi tel individu et non le voisin ? Pourquoi certains blessés ont-ils de la causalgie [sensation de brûlure lancinante aux extrémités] ou une algie diffusante [douleur dont l’origine n’est pas due à une lésion anatomique], alors que pour la même blessure, le même accident, la plupart ne souffrent pas ? Pourquoi certains zonas sont-ils douloureux et non pas tous ? […] N’y a-t-il pas des valeurs d’intégration différentes suivant les individus, comme il y a des valeurs différentes d’intelligence, de sensibilité, de mémoire49 ?

Pour Leriche la réponse est claire : la douleur n’est pas un simple phénomène de réaction provoqué par une lésion. Leriche ne réduit pas la douleur à la conception neurologique qui en fait l’expression normale d’un mécanisme physiologique ou d’une sensation traitée par le cerveau. Si tel était le cas, pourquoi y aurait-il une distinction entre la souffrance des amputés de guerre et des amputés civils ayant pourtant la même blessure. Il conteste également la conception finaliste qui fait de la douleur un avertissement du corps face à une menace. Pour lui, ce n’est pas nécessairement un signal de défense. Il se peut même qu’il n’y ait pas autre chose que de la douleur dans la douleur. Aussi, Leriche développe une approche différente qui fait de la douleur une maladie en soi. Il s’agit d’un phénomène pathologique et non pas d’un phénomène normal ou défensif. C’est une transformation de l’individu en malade. Il faut donc guérir l’individu de sa maladie, c’est-à-dire le guérir de sa souffrance. Pour résumer, la douleur a trois aspects : (1) elle est non essentielle – ce n’est pas un mécanisme de défense qui lutte contre une infection ou une lésion ; (2) elle relève d’un processus d’individuation variable selon chaque individu ; et enfin (3) elle est une source de connaissance pour la médecine. Mais il s’agit d’une connaissance informelle que seul l’individu possède complètement.

C’est pour cela que le travail qui émerge de plus en plus dans les services de soin en collaboration avec les patients experts est une nécessité pour la connaissance médicale. Elle donne accès à la connaissance de la douleur qui est singulière et ne peut être réduite ni à la physiologie ni à la psychologie. Comme l’écrit Leriche, « le psychisme fait l’expression de la douleur. Il ne la crée pas50 ». C’est l’individu qui fait sa douleur. Mais il n’en est pas pour autant responsable. C’est le devoir du soignant que de l’interpréter et de la comprendre par-delà l’ensemble des connaissances logiques et formelles de la médecine.

Aussi, les développements de l’IA en médecine se confrontent à une limite qui provient de l’incomplétude de la connaissance médicale face à la douleur. Cette limite épistémologique doit être mise en avant pour ne pas réduire la souffrance à des questionnaires ou à des échelles allant de 1 à 10 qui servent à définir un dosage automatisé des antidouleurs dans un dispositif technologique indifférent. Il y a une douleur en soi qui se cache en chacun de nous et qui demande nécessairement du soin et de l’attention. Vouloir coder la douleur dans des échelles et des métriques pour mieux implémenter le soin et l’attention dans une IA me semble une voie vers la déshumanisation de la médecine. Au contraire, l’inclusion des patients dans la connaissance des maladies et la formation des soignants m’apparaît comme une véritable innovation dans le dispositif technologique de la santé de demain.

1. D’après Walter GRATZER, Eurekas and Euphorias : The Oxford Book of Scientific Anecdotes, Oxford, Oxford University Press, 2004, p. 151-152.

2. Leonard J. SAVAGE, The Foundations of Statistics, New York, Wiley, 1954.

3. Daniel Dennett appelle cela la « bibliothèque de Mendel » en référence au moine et botaniste Gregor Mendel, père fondateur de la génétique. Cf. Daniel DENNETT, Darwin’s Dangerous Idea : Evolution and the Meaning of Life, Londres, Penguin Books, 1995, p. 107-113.

4. Il n’est peut-être pas inutile de rappeler ici la définition de quelques termes clés de la génétique : (1) l’ADN est une molécule située dans le noyau de nos cellules qui porte en elle l’information génétique sous la forme d’une double hélice constituée par une série de nucléotides ; (2) les nucléotides sont les molécules constitutives de l’ADN et de l’ARN. Ils sont formés de bases azotées permettant de les distinguer (adénine, cytosine, guanine et thymine), mais aussi de sucre et de phosphate ; (3) l’ARN est une molécule qui copie l’un des deux brins de la double hélice de l’ADN à partir d’une transcription. Il est dit messager lorsqu’il catalyse la synthèse de protéines correspondantes ; (4) un gène est une séquence de nucléotides qui détermine les caractères héréditaires d’un individu.

5. Erwin SCHRÖDINGER, Qu’est-ce que la vie ? De la physique à la biologie, trad. Léon Keffler, Paris, Points, 1993, p. 128.

6. Jacques MONOD, Le Hasard et la Nécessité. Essai sur la philosophie naturelle de la biologie moderne, Paris, Seuil, 1970, p. 127.

7. Baruch SPINOZA, Éthique, trad. Roland Caillois, Paris, Gallimard, « Folio Essais », 1993, Livre 1, Appendice.

8. Rapport de l’Académie nationale de médecine, Systèmes d’IA générative en santé : enjeux et perspectives, 5 mars 2024, p. 9.

9. Béatrice DESVERGNE, De la biologie à la médecine personnalisée. Mieux soigner demain ?, Paris, éditions Rue d’Ulm, 2019, p. 109.

10. Alain FISCHER, « La drépanocytose, cas d’école d’une recherche médicale qui oublie les plus démunis », L’Express, 13 avril 2024.

11. Neil M. FERGUSON et al., « Impact of non-pharmaceutical interventions (NPIs) to reduce COVID-19 mortality and healthcare demand », in Imperial College Covid-19 Response Team, 16 mars 2020.

12. Au même titre que le numérique génère des digital twins, la modélisation épidémiologique a produit ce que nous appelons, Renaud Crespin et moi-même, des viral twins, c’est-à-dire des éléments physiques et sociaux qui ont permis de décrire la dynamique de l’épidémie et de justifier les règles sanitaires adoptées. Mais aussi de donner à la population une vision de soi-même en interaction dans le monde. Cf. Mathieu CORTEEL et Renaud CRESPIN, « Une politique sous l’emprise des modèles : la gestion de la crise de Covid-19 en France en 2020 », LIEPP Working Paper, no 159, janvier 2024.

13. Thomas C. HALES, « A review of the Ferguson Imperial Model of Covid-19 infection », 22 novembre 2020, p. 7, <https://jiggerwit.files.wordpress.com/2020/11/imperial-review-header.pdf>.

14. Mathieu CORTEEL, « Les boîtes noires de la pandémie. Modélisation épidémiologique et pouvoir politique durant la crise de Covid-19 », Multitudes, vol. 86, no 1, 2022, p. 147-155. ; M. CORTEEL et R. CRESPIN, « Une politique sous l’emprise des modèles : la gestion de la crise de Covid-19 en France en 2020 », art. cité.

15. Gilles DELEUZE, « Post-scriptum sur les sociétés de contrôle », in Pourparlers. 1972-1990, Paris, Minuit, 2003, p. 240-247.

16. Jiajia CHEN, Fuliang QIAN, Wenying YAN et Bairong SHEN, « Translational biomedical informatics in the Cloud : present and future », BioMed. Res. Int., 2013.

17. Pour plus de précision sur les éléments théoriques développés dans ce chapitre, cf. B. DESVERGNE, De la biologie à la médecine personnalisée, op. cit., chap. 4.

18. Xavier GUCHET, La Médecine personnalisée. Un essai philosophique, Paris, Les Belles Lettres, 2016.

19. Dès les années 2010, on trouve des études qui montrent par exemple la capacité de l’IA à définir des sous-classes (microarray) de SNP permettant de subdiviser les leucémies en combinant 182 millions de données génétiques prélevées sur une population de 3 334 patients. Cf. Torsten HAFERLACH et al., « Clinical utility of microarray-based gene expression profiling in the diagnosis and subclassification of leukemia : report from the International Microarray Innovations in Leukemia Study Group », Journal of Clinical Oncology, vol. 28, no 15, 2010, p. 2529-2537.

20. Sarah WATSON et Julien VIBERT, « Séquençage et cancer », in Bernard NORDLINGER, Cédric VILLANI et Olivier DE FRESNOYE (dir.), Médecine et intelligence artificielle, Paris, CNRS Éditions, 2022, p. 37-43.

21. Qian ZHANG, Paul BASTARD, COVID HUMAN GENETIC EFFORT et al. « Human genetic and immunological determinants of critical COVID-19 pneumonia », Nature, no 603, 2022, p. 587-598.

22. Gero HÜTTER, Daniel NOWAK, Maximilian MOSSNER et al., « Long-term control of HIV by CCR5 delta32/delta32 stem-cell transplantation », New England Journal of Medecine, no 360, 2009, p. 692-698.

23. Sabina LEONELLI, La Recherche scientifique à l’ère des big data. Cinq façons dont les big data nuisent à la science et comment la sauver, trad. Faustine Galicia, Paris, Mimesis, 2019.

24. Thomas S. KUHN, La Structure des révolutions scientifiques, trad. Laure Meyer, Paris, Flammarion, « Champs Sciences », 2008 ; Paul FEYERABEND, Contre la méthode. Esquisse d’une théorie anarchiste de la connaissance, trad. Baudouin Jurdant et Agnès Schlumberger, Paris, Seuil, 1979.

25. Michel FOUCAULT, L’Archéologie du savoir, Paris, Gallimard, 1969, p. 46-47.

26. Daniel COUTURIER, Georges DAVID, Dominique LECOURT et al., La Mort de la clinique ?, Paris, PUF, 2009 ; Donna J. HARAWAY, Simians, Cyborgs, and Women : The Reinvention of Nature, New York, Routledge, 1990 ; Adele E. CLARKE, Janet K. SHIM, Laura MAMO, Jennifer Ruth FOSKET et Jennifer R. FISHMAN, « Biomedicalization : Technoscientific transformations of health, illness, and US biomedicine », American Sociological Review, vol. 68, no 2, 2003, p. 161-94 ; Adele E. CLARKE, Laura MAMO, Jennifer Ruth FOSKET, Jennifer R. FISHMAN et Janet K. SHIM (dir.), Biomedicalization : Technoscience, Health, and Illness in the U.S., Durham, Duke University Press, 2010 ; Nikolas ROSE, The Politics of Life Itself : Biomedicine, Power, and Subjectivity in the Twenty-First Century, Princeton, Princeton University Press, 2007.

27. Mathieu CORTEEL, « Le hasard clinique ou la crise de la rationalité médicale », Multitudes, no 75, 2019 ; ID., « La médecine computationnelle entre savoir et biopouvoir », Études digitales, no 2, Garnier, 2017 ; ID., « Le nominalisme de la médecine contemporaine : éléments d’archéologie du big data en médecine », Materiali Foucaultiani, vol. 5, 2016.

28. Mathieu CORTEEL, Le Hasard et le Pathologique, Paris, Presses de Sciences Po, 2020, p. 131-132.

29. Austin Bradford HILL, « Aims and ethics », in Controlled Clinical Trials, Oxford, Blackwell, 1960, p. 3-4.

30. Austin Bradford HILL, The Philosophy of the Clinical Trial, Édimbourg, E & S Linvingston, 1962, p. 10.

31. David L. SACKETT, « Evidence-based medicine : what it is and what it isn’t », BMJ, no 312, 1996, p. 71-72.

32. Rapport de l’Académie nationale de médecine, Systèmes d’IA générative en santé, op. cit., p. 1.

33. Holger A. HAENSSLE, Christine FINK, Roland SCHNEIDERBAUER et al., « Man against machine : Diagnostic performance of a deep learning convolutional neural network for dermoscopic melanoma recognition in comparison to 58 dermatologists », Ann. Oncol., no 29, 2018, p. 1836-1842.

34. Antoine GEISSBÜHLER, « Un hôpital à l’ère du numérique », in B. NORDLINGER, C. VILLANI et O. DE FRESNOYE (dir.), Médecine et intelligence artificielle, op. cit., p. 17-23.

35. Johan BRAG, « L’intelligence artificielle dans l’imagerie médicale », in Bernard NORDLINGER et Cédric VILLANI (dir.), Santé et intelligence artificielle, Paris, CNRS Éditions, 2018, p. 155-170.

36. Jean-Denis LAREDO, « IA, numérique et métiers d’imagerie médicale », in B. NORDLINGER, C. VILLANI et O. DE FRESNOYE (dir.), Médecine et intelligence artificielle, op. cit., p. 59-62.

37. Pierre Simon DE LAPLACE, Essai philosophique sur les probabilités, 2e éd., Paris, Courcier, 1814, p. 5.

38. Cette philosophie des probabilités en médecine a été l’objet de ma thèse de doctorat et de mon premier livre. Cf. M. CORTEEL, Le Hasard et le Pathologique, op. cit.

39. Chris ANDERSON, « The end of theory : The data deluge makes the scientific method obsolete », Wired, 2008.

40. P. S. DE LAPLACE, Essai philosophique sur les probabilités, op. cit., p. 2.

41. René LERICHE, Chirurgie de la douleur, Paris, Masson, 1940.

42. Michel FOUCAULT, Naissance de la clinique, Paris, PUF, « Quadrige », 2009, p. 122-123.

43. Ibid., p. 90.

44. René LERICHE, La Chirurgie. Discipline de la connaissance, Nice, La Diane française, 1949, p. 41.

45. Étienne BONNOT DE CONDILLAC, L’Origine des connaissances, Paris, Houel, 1798, p. 135-136.

46. Étienne BONNOT DE CONDILLAC, Traité des sensations, in Œuvres complètes de Condillac, Paris, Dufart, 1803, t. IV, p. 408.

47. Mathieu CORTEEL, « La double naissance de la clinique. Numérisation des données médicales au XIXe siècle », Rue Descartes, vol. 100, no 2, 2021, p. 23-37.

48. Ludwig WITTGENSTEIN, Zettel, § 545, cit. trad. in J. BOUVERESSE, La Parole malheureuse, op. cit., p. 445.

49. R. LERICHE, La Chirurgie, op. cit., p. 80-81.

50. Ibid., p. 151.

5

Karma police

« Karma police, arrest this man

He talks in maths

He buzzes like a fridge

He’s like a detuned radio »

RADIOHEAD, Karma police, 1997.

Deux semaines après le meurtre de George Floyd, le 25 mai 2020, à Minneapolis, des mathématiciens sonnent l’alerte sur la dangerosité des algorithmes de prédiction des crimes utilisés pour coordonner les contrôles de police aux États-Unis. 1 400 chercheurs se rallient à l’appel au boycott : « compte tenu du racisme structurel et de la brutalité de la police américaine », ils estiment « que les mathématiciens ne doivent plus collaborer avec les services de police ». Selon eux, « il est simplement trop facile de créer un vernis “scientifique” pour le racisme (avec des algorithmes)1 ». En soutien au mouvement Black Lives Matter, lesdits mathématiciens fondent le Just Mathematical Collective (JMC), afin de mettre en garde la population contre le risque d’une légitimation scientifique et technologique du racisme systémique. Les membres du mouvement rappellent que l’histoire et la sociologie ont depuis longtemps montré que la police étasunienne était structurellement raciste et considèrent que les nouvelles technologies s’inscrivent dans le sillage des pratiques de surveillance des esclaves dans les plantations2 en reconduisant les discriminations et les violences à l’encontre des populations racisées3.

Loin de faire l’unanimité au sein de la communauté scientifique, la position du JMC a fait débat. Ses détracteurs ont souligné l’utilité des technologies de surveillance pour les enquêtes et la nécessité de travailler à l’amélioration des IA pour éviter de tels biais, plutôt que de les rejeter en bloc. Comme l’écrit Daniel Krashen : « Je ne pense pas que ce soit le moment pour les universitaires de rompre le dialogue avec la police […] mais qu’il est plutôt nécessaire d’aller plus loin, d’analyser la manière dont certains algorithmes sont utilisés, de faire pression pour une transparence maximale, et d’essayer d’identifier et de corriger les biais là où nous le pouvons4. » D’autres mathématiciens sont allés jusqu’à condamner la position du JMC et, prenant l’exemple du blocage d’une conférence d’Andrea Bertozzi, coauteur de l’algorithme PredPol, à fustiger la cancel culture qu’elle illustrerait5. Quelle est donc cette technologie capable de mettre en émoi le monde, en apparence tranquille, des mathématiques appliquées ?

Des séismes et des crimes

Lorsqu’on parle de police prédictive, on parle en fait d’algorithmes de cartographie statistique programmés pour prédire où et quand un crime sera perpétré. À partir d’un ensemble de paramètres et de variables explorant les données de terrain, ces IA mesurent la criminalité et les risques de récidive pour guider les effectifs de police dans les zones sensibles de la ville. Étonnamment, le fondement théorique du plus célèbre de ces programmes, PredPol (pour predictive policing), utilisé jusqu’en 2020 par la police municipale de Los Angeles, est un modèle de prévision des séismes6. Quel rapport entre les séismes et les crimes, me direz-vous ? Probablement aucun. On pourrait même décrire PredPol à la manière de Lautréamont comme « la rencontre fortuite sur une table de dissection d’une machine à coudre et d’un parapluie7 ».

Selon le sociologue Bilel Benbouzid, l’application d’une technique cartographique conçue pour anticiper les répliques de tremblements de terre (modèle ETAS8) à la répétition d’actes délictuels est en effet fortuite. Elle provient d’une « similarité observée par les chercheurs de Los Angeles entre la dynamique de propagation des crimes et celle des séismes » : de même que les séismes se répliquent, les crimes se répètent. PredPol repose ainsi sur une analogie entre un phénomène naturel et un fait social, autrement dit sur une physique sociale. Comme le souligne le sociologue, son lancement a ravivé l’espoir néopositiviste que « le crime serait enfin fongible dans les mathématiques9 ». Poursuivant le vieux rêve de Quetelet de mathématiser le fait social dans une physique déterministe, il entretient l’idée que les différences individuelles s’effacent dans le quotient pour révéler les lois de la nature sociale : « Plus le nombre des individus que l’on observe est grand, plus les particularités individuelles, soit physiques, soit morales, s’effacent et laissent prédominer la série des faits généraux en vertu desquels la société existe10. » Pour localiser le crime avant qu’il ne se produise, il s’agit donc de générer des données en grand nombre sur les actes passés, considérés comme des prédicteurs des actes à venir, afin de délimiter des zones criminogènes probables et d’y concentrer les contrôles policiers. Toutefois, en supposant que la propagation des crimes suive la dynamique physique de la répétition des séismes, on alimente le modèle en données qui lui sont étrangères. On appareille le policier à une machine allopoïétique qui produit un effet de surface prédictif (différencié de sa cause) qu’il doit suivre aveuglément.

L’entretien mené par Benbouzid avec un sismologue met bien en évidence le défaut de justesse de l’algorithme. En appliquant le modèle sismique aux données de la criminalité de Chicago, le sismologue a relevé un écart irréductible entre la prédiction et le fait social. À en croire ce dernier, la prédiction d’un fait (séisme ou, plus encore, crime) ne dépend pas exclusivement des probabilités. Pour anticiper un séisme et mettre en œuvre l’évacuation de la population, il faut toute une chaîne de décision alliée à une connaissance organisationnelle et opérationnelle. Cela suppose également des connaissances empiriques, des observations de terrain et des hypothèses discutées entre spécialistes. D’ailleurs, « les prédictions à court terme (de quelques heures à quelques jours) sont rarement couronnées de succès. Elles sont la plupart du temps cruellement décevantes. Nos échecs en matière de prédiction soulèvent régulièrement la question de savoir s’il n’y a pas impossibilité fondamentale de prédire11 » confesse-t-il.

Étrangement, pour ce qui est de la prédiction des crimes, il semblerait qu’on se satisfasse de moins. Sans doute les conséquences d’une interpellation sont-elles moins importantes que celle de l’évacuation d’un quartier ou d’une ville menacée par un tremblement de terre. Mais, sur le plan épistémologique, force est de constater que PredPol soulève des doutes. Ses développeurs cherchent avant tout à établir des scores de risque, c’est-à-dire un indice qui se précise au fur et à mesure de l’accumulation des données de criminalité. L’algorithme vise à ajuster la répartition des effectifs de police à la localisation de zones a priori criminogènes, ce qui crée un effet de cadrage autoréférentiel. Que l’algorithme ne soit pas juste, là n’est pas le problème, car là n’est pas sa fonction. Ce qui compte, c’est de trouver un moyen de justifier le contrôle par le contrôle en réduisant statistiquement les crimes par les interpellations. On tombe alors dans un travers bien connu de tout modélisateur : « Plus un modèle a rendu service, plus il a marqué son temps, plus il a fini par devenir une seconde nature12. » Cette seconde nature, c’est celle de la carte qui recouvre le territoire, celle du contrôle qui recouvre la sécurité. En rendant service à la police, le modèle se justifie par lui-même et élude sa propre contradiction.

Le policier et le paradoxe

Figure 7. Capture d’écran de PredPol où les zones encadrées sont évaluées à risque.

Dans le quadrillage distributionnel de PredPol, l’agent de police se déplace par l’effet infinitésimal de l’accumulation de chaque interpellation. Sa fonction s’efface derrière le fonctionnement algorithmique et la production incessante de nouvelles données sur lesquelles il doit agir. Le commissariat associe à cette fin l’IA à d’autres systèmes statistiques (tels que Compstat) qui référencent les interpellations avec à la clé une prime pour l’agent. Cette microphysique du pouvoir valorise son action et le pousse à faire du chiffre. En maximisant le nombre d’interpellations dans des suites extensives, le policier maximise son intérêt personnel13. Il devient ainsi captif du cadre des opérations, de ce qu’on pourrait appeler, non sans ironie, l’ensemble de tous les ensembles qui ne se contiennent pas eux-mêmes. Il s’aliène alors en devenant une sorte de contrôleur-contrôlé. Dans ce système, on a deux types de personne : ceux qui ne se contrôlent pas eux-mêmes (hétéronomie) et ceux qui se contrôlent eux-mêmes (autonomie). Si le policier ne contrôle que ceux qui ne se contrôlent pas eux-mêmes (les criminels) et qu’il se contrôle lui-même (pour maximiser son profit), alors il ne se contrôle pas lui-même (c’est le système qui le contrôle). Si bien qu’il finit par en même temps se contrôler lui-même et ne pas se contrôler lui-même. Il est à la fois autonome et hétéronome. Il est plongé dans la contradiction ou l’indécidable. Son individualité s’efface dans un agencement aliénant. Pour le dire autrement, le modèle est paradoxal. Il élude la capacité de discernement de l’agent de police qui se trouve pris au piège de sa propre action. Si bien qu’il ne peut pas engager son action sans entrer en contradiction avec lui-même. Le voilà prisonnier d’une machine allopoïétique qui remplace ses connaissances informelles Cn2 (expérience de terrain, relation, intuition ou encore discernement) par des connaissances formelles Cn1 (probabilités du séisme) sous le postulat de la répétition du crime dans des distributions différentielles. La part de Cn1 qui guide son action se boucle dans un cercle vicieux qui le pousse à agir. Il est alors sous l’emprise de l’inconscience machinique de PredPol qui lui échappe et qui pourtant le guide à chaque instant.

Un cauchemar de justice

De l’autre côté de l’interpellation, le piège se referme sur le suspect. La production du pouvoir judiciaire le capture dans une carte virtuelle d’où il ne s’échappe plus. Une fois intégré dans cette machine infernale, le suspect devient coupable en puissance. À la manière de Joseph K. dans Le Procès de Kafka, il se voit accusé d’un crime dont il ignore la teneur dans un imbroglio de procédures. Une fois dans la machine judiciaire, il devient quasiment impossible de s’en extraire. L’innocence « ne simplifie l’affaire en rien […]. [La justice] finit par découvrir un crime là où il n’y a jamais rien eu […]. J’ai trouvé tout le monde d’accord pour affirmer qu’aucune accusation n’était lancée à la légère et qu’une fois l’accusation portée, le tribunal est fermement convaincu de la culpabilité de l’accusé ; on ne peut, paraît-il, que très difficilement l’ébranler dans cette conviction14 ». Comme l’indique le peintre à Joseph K., ce système offre deux issues possibles. La première est un acquittement apparent permettant à Joseph K. de discrétiser les procédures de manière discontinue, en passant d’un milieu d’enfermement à un autre, sans pour autant que la justice l’oublie. Au moindre faux pas, Joseph K. sera jugé coupable et condamné encore et encore. La seconde est l’atermoiement illimité qui maintient le procès en variation continue en répétant la phase initiale de manière indéfinie, sans que Joseph K. soit pour autant condamné. On l’interroge en permanence, on le garde sous contrôle, mais il n’est pas coupable. Il est toutefois bloqué dans l’hic et nunc du procès.

Il me semble à cet égard que le jeu paradoxal de PredPol entre le policier et le suspect génère une sorte de boucle temporelle, un cercle vicieux se structurant autour de l’atermoiement illimité. Le dispositif policier reproduit inlassablement, de manière continue et indéfinie, la première phase de toute procédure (l’interpellation) sans que l’individu ne soit jamais véritablement coupable. Le recours systématique à des interpellations sur fond d’une carte numérique pousse le policier à traiter des suspects de manière désindividualisée, c’est-à-dire à les saisir comme une matière dividuelle (une banque de données) dont la somme des parties est supérieure au tout de l’individu.

Avec la police prédictive, sommes-nous entrés dans ce monde du contrôle que décrivait Kafka ? Force est de constater que oui. On pourrait même dire, à la manière de Deleuze, que, depuis les années 1980, le néolibéralisme a fait émerger un nouveau type de société autour du contrôle15. Selon Deleuze, nous avons quitté les sociétés disciplinaires pour entrer dans des sociétés de contrôle qui manient l’atermoiement illimité en distribuant le pouvoir sur le faisceau continu de la surveillance, au point de renverser l’ordre du temps.

Bienvenue dans l’Interzone

PredPol n’est qu’un outil, parmi tant d’autres, développé par les sociétés de contrôle. Mais il montre à lui seul la bifurcation prise dans la manière qu’a le système de saisir nos actions dans le temps. Les médias ont souvent, à juste titre, fait le parallèle entre PredPol et le film Minority Report. Même si on ne peut pas dire qu’on en soit arrivé là, il y a quelque chose de similaire entre la fiction et la réalité : l’ordre du temps se dédouble et se renverse. Dans le monde imaginé par Philip K. Dick, la police de Washington utilise les capacités cognitives de mutants, les Précogs, pour éradiquer les crimes avant qu’ils ne soient perpétrés. On interpelle alors des intentions et non plus des actes, des « dividus » (des masses de données ou de documents) et non plus des individus, comme dirait Deleuze. Dans la scène d’introduction, un certain Howard Marks se fait arrêter par une unité spéciale des précrimes de Columbia « pour le meurtre futur de sa femme », ce à quoi il répond : « Je n’ai rien fait ! » Et, en effet, selon la causalité linéaire, il n’a rien fait, mais il est coupable virtuellement (en puissance). L’élévation à la puissance de l’acte criminel qui devient une intention-action conduit à dédoubler l’action punitive de la chaîne causale a posteriori en lui superposant une chaîne d’action quantique a priori : l’acte criminel à venir de Marks est acté et l’intervention préventive de la police synchronise le futur dans le présent grâce à la combinatoire. Autrement dit, l’agencement du contrôle ne s’abat pas sur l’actuel et le corps visible du criminel, mais sur la puissance virtuelle de l’intention dans le temps et le lieu suspendu du crime. On pourrait dire qu’avec la police prédictive on assiste à une superposition quantique de la puissance et de l’acte dans une machine de contrôle. Cette machine abstraite repose sur un dédoublement de la puissance-action par une puissance-contrôle dans un jeu de boucles temporelles.

Cet agencement nous fait sortir de la linéarité temporelle du roman policier : le crime n’arrive pas, car il est toujours déjà là. La superposition quantique de la surveillance parasite le jugement, à la manière de ce jeu littéraire inventé par la beat generation, le cut-up, qui consiste à combiner des bouts de texte ensemble pour former un nouvel écrit plus imbriqué, hybridé et dédoublé. La combinatoire permet ainsi de sortir de la linéarité de la narration. Pour tout dire, dans la combinatoire de la police prédictive se joue une nouvelle narration du crime par la superposition de l’intention et de l’acte, ou plutôt par un effet de renversement. Dans cet agencement, on est comme dans l’« Interzone » imaginée par William Burroughs : captif de l’Annexie, ce pays effrayant où le contrôle pèse sur chacun de manière continue et indéfinie pour moduler l’action individuelle16.

Dans la boîte noire algorithmique du contrôle, l’agencement en superposition des puissances d’intention-action génère un cercle vicieux contre les populations « à risque » tels que les drogués, les pauvres, les prostitués et plus encore les racisés. On le voit bien, PredPol, en se basant sur les données des localités du crime, indique à la police quand y retourner pour éviter les récidives. La boucle se boucle, et le pouvoir disciplinaire se renforce toujours au même endroit, toujours sur les mêmes.

Cela crée une boucle de rétroaction pernicieuse. Le maintien de l’ordre lui-même génère de nouvelles données, qui justifient un maintien accru de l’ordre. Et nos prisons se remplissent de centaines de milliers de personnes reconnues coupables de crimes sans victimes. La plupart d’entre elles viennent de quartiers pauvres, et la plupart sont noires ou hispaniques. Ainsi, même si un modèle est aveugle à la couleur, le résultat est tout autre. Dans nos villes largement ségréguées, la géographie est un indicateur très efficace de la race17.

Supposée prévenir des crimes de manière impartiale, l’IA reproduit les inégalités raciales en s’illusionnant avec des données collectées en grand nombre par des agents de police poussés à faire du chiffre. Ce système conduit en général à l’arrestation de dealers de quartier, d’alcooliques, d’usagers de drogue ou de prostituées et laisse malheureusement de côté les criminels les plus dangereux qui passent à travers les mailles du filet. De fait, il n’y a pas de prédiction possible pour anticiper les actions des psychopathes.

De la discipline au contrôle

D’une certaine manière, que ce soit avec la discipline, la surveillance ou le contrôle, ce que l’on produit, ce sont avant tout des machines sociales distribuant des unités, des forces de déplacement et des actions coercitives sur des individus. Ce qui compte, ce n’est pas tant le fonctionnement technique que le fonctionnement social ou plutôt l’assignation sociale de la fonction. Aussi, ce qui diffère avec la police prédictive, par rapport à d’autres systèmes, c’est le changement des distributions de la surveillance dans une machine sociale abstraite et pas simplement le mécanisme algorithmique derrière tout ça.

Dans le modèle panoptique de la surveillance décrit par Foucault, le surveillant invisibilisé (signifiant) place l’observé dans une position de visibilité permanente, le poussant ainsi à développer une représentation mentale du surveillant (signifié). Dans ce dispositif, comme l’écrit Foucault, « l’âme devient prison du corps18 ». L’observé se renvoie à lui-même le reflet de sa propre visibilité. Il se sent surveillé en permanence et adapte sa conduite à la discipline qui lui est imposée. Dans le panoptique, l’architecture est ordonnée par une périphérie circulaire où l’on place les détenus, avec au centre une tour de surveillance dans laquelle se trouve l’observateur. Elle permet un aménagement (en diagramme) des unités spatiales de telle sorte que la périphérie soit constamment dans l’observation et qu’elle finisse par devenir son propre principe de surveillance. Ainsi, cette sémiotique maintient la vigilance par un effet de boîte noire. Comme l’écrit Foucault, l’observé « est vu mais il ne voit pas ; objet d’une information, jamais sujet d’une communication19 ». Pour le dire autrement, la prison dans laquelle se trouve le détenu est avant tout mentale. L’observé est en cela pris dans un état de conscience « qui assure le fonctionnement automatique du pouvoir20 ». Deleuze a tout à fait raison de dire que ce qui compte dans tout cela, ce n’est pas tant la structure visuelle que le mouvement interne à un agencement historique et social : le diagramme. Selon Deleuze, Foucault a mis au jour un diagramme « intersocial, et en devenir. Il ne fonctionne jamais pour représenter un monde préexistant, il produit un nouveau type de réalité, un nouveau modèle de vérité […] il double l’histoire avec un devenir21 ». C’est dans ce devenir que se jouent les mécanismes du pouvoir.

Le passage des sociétés disciplinaires aux sociétés de contrôle explique, à mon sens, cette transformation du diagramme dans l’émergence d’une perspective synoptique où le contrôle s’agence en distribuant une visibilité d’ensemble sans pouvoir au plus grand nombre, pour générer des données a-signifiantes alimentant la machine du pouvoir policier. D’une certaine manière, le diagramme ne change que dans la distribution du pouvoir, on passe d’une machine à une autre. C’est un jeu de forces en mouvement. Dans la discipline, il s’agissait de produire une « âme » passant par toute une microphysique du pouvoir mêlant le corps à la psychologie ; c’est ce dont parle Nietzsche dans la Généalogie de la morale avec la culpabilité qui vient remplacer le supplice. Dans le nouveau régime du contrôle, les processus de subjectivation passent par la modulation, c’est-à-dire par un pouvoir qui agence les forces en continu, produit des machines sociales et combine le devenir du dividu. Dans les sociétés de contrôle, on s’éloigne de plus en plus de la discipline. Mais, elle n’a pourtant pas disparu. Elle s’est différenciée dans le temps. Son empire s’est adjoint aux mécanismes de sécurité du biopouvoir articulant des données matérielles pour maximiser les éléments positifs et minimiser les éléments négatifs, aménager la polyfonctionnalité des éléments et enfin travailler sur l’avenir22. Elle s’est ensuite métastasée à partir d’un agencement de forces dans une machine allopoïétique : l’ordinateur.

Ainsi, le Bifrons de la sécurité, oscillant entre discipline et biopouvoir, passe aujourd’hui par tout un processus de gouvernance algorithmique, duquel émerge le contrôle. Il me semble en effet que le contrôle apparaît lorsque la sécurité module la carte numérique sur le territoire physique, autrement dit lorsque le pouvoir agit sur des données immatérielles a-signifiantes, que les éléments positifs et négatifs sont définis par la combinatoire de nos IA, que les fonctions sont attribuées en variation continue et que l’avenir c’est le déjà-là. « No future, future is now ! » comme disent les cyberpunks. Le contrôle est toujours le contrôle de l’avenir dans le présent. C’est un repli sur soi-même de la surveillance pour favoriser une nouvelle distribution des forces ainsi qu’une nouvelle manière de gouverner. Selon Martin Heidegger et Eugen Fink, une nouvelle forme de « gouverner » a vu le jour avec la cybernétique23 : « Ce phénomène (de gouvernance) est devenu aujourd’hui, justement à l’époque de la cybernétique, si fondamental qu’il met en cause et détermine toutes les sciences de la nature et le comportement de l’homme24. » Pour Fink, « gouverner c’est se rendre maître d’un mouvement… gouverner est un mouvement qui intervient, qui transforme, qui oblige25 ». Gouverner, c’est contraindre un flux. Mais « n’y a-t-il pas aussi un gouverner sans contrainte ? » demande Heidegger. « Que les sciences de la nature et notre vie aujourd’hui soient dominées dans une mesure croissante par la cybernétique n’est pas un hasard26. » Selon Heidegger, la cybernétique concrétise la technique en obviant à sa puissance sur le monde des objets et le comportement humain. Le contrôle de l’information adoucit ainsi la violence de la contrainte et élève l’action cybernétique à un niveau supérieur. En donnant à l’humain « le pouvoir de créer l’organisation en instituant la téléologie27 », la technologie éloigne le geste coercitif pour favoriser une téléologie douce. Cette nouvelle téléologie propre au « gouverner » cybernétique marque en ce sens la capacité d’une nouvelle forme insidieuse de contrôle qui émerge dans le silence des données pour lutter contre l’entropie.

La police quantique

Avec le nouveau dispositif de surveillance instauré par le tournant des sociétés de contrôle, il ne s’agit plus seulement d’une police cognitive comme avec le Panopticon, mais d’une police que l’on pourrait qualifier de quantique, qui traite le criminel en puissance comme un corpuscule ondulatoire appréhendé par les probabilités d’occurrence de ses actions. L’expérience de pensée d’Erwin Schrödinger, illustrée par le chat dans une boîte, permet de rendre compte de ce tournant quantique. L’indétermination qui découle du fait de savoir si le chat est mort ou non, ou si le dividu est coupable ou non, est précisément corrélative de l’absence de regard, nécessitant de recourir au calcul des probabilités. Le regard n’est plus possible car il détermine déjà une position, il change l’état. Le regard du physicien quantique est un facteur déterminant de la position des particules, comme celui du policier détermine la position du criminel. D’où la conclusion de Schrödinger : le chat est à la fois mort et vivant. Et la mienne : le dividu est à la fois coupable et non coupable. Dans le monde de la mécanique quantique, les particules sont dans de multiples états à la fois, car d’une certaine manière elles sont en puissance et non en acte. La causalité linéaire n’a donc plus cours, car tout est défini par la multiplicité d’états. Il en va de même avec cette police quantique qui considère notre multiplicité dividuelle pour intervenir. Pour elle, nous sommes tous à la fois innocents et criminels.

Aussi, pour ne pas laisser le dividu passer à l’acte criminel, le regard du policier se doit de déterminer sa position. Le système de la police quantique fonde donc sa coercition sur notre dividualité qui est multiple et sans visage. L’individu est reconduit à un statut préindividuel au travers du multiple de son potentiel par des probabilités. Il s’agit dès lors, en fonction du résultat du calcul, d’influer matériellement sur le potentiel ayant le plus haut taux de probabilité.

La loi JO 2024

Même si on peut se réjouir du fait que certains projets de police prédictive aient subi un échec cuisant (comme PredPol, auquel la police de Los Angeles a finalement renoncé par manque de preuves tangibles de son efficacité28), l’engouement pour ces dispositifs de surveillance s’intensifie, notamment en France avec la tenue des Jeux olympiques de Paris 2024. Dans l’Hexagone, plusieurs systèmes sont testés depuis une dizaine d’années pour anticiper les crimes tels que le RTM (risk terrain modelling) à Paris et PAVED (plateforme d’analyse et de visualisation évolutive de la délinquance) utilisée par la gendarmerie nationale. En ce qui concerne le premier, le RTM, il s’agit d’une IA bayésienne développée par l’université Rutgers aux États-Unis, qui vise à anticiper les crimes à partir d’un modèle environnemental dont l’analyse repose sur les données de la Direction de la sécurité de proximité de l’agglomération parisienne (DSPAP). L’IA définit des facteurs contextuels en lien avec des événements délictuels pour prédire les crimes selon des zones à risque29. C’est encore une fois un modèle géostatistique qui permet de définir les risques à partir des données provenant du logiciel de rédaction des procédures de la Police nationale (LRPPN). Il s’agit donc d’une mise en corrélation entre des données textuelles et des données géographiques.

À partir d’une combinatoire hétérogène, il devient possible d’établir des corrélations entre les localités des faits et des variables environnementales réparties selon les types de crimes. Comme avec PredPol, l’IA propose de répartir les effectifs de police en fonction des risques du terrain. Comme l’indique une étude de l’Institut d’aménagement et d’urbanisme de la Région parisienne : « En se basant, d’une part, sur les faits de délinquance informatisés, d’autre part, sur les conditions contextuelles du passage à l’acte, l’algorithme RTM rejoint le cadre analytique de la prévention situationnelle. Ce sont d’ailleurs, ces données contextuelles qui, associées aux données passées de la délinquance, permettent de produire du prédictif30. » On comprend bien par là que la machine combine des données sociogéographiques pour définir ses prédictions. L’IA attribue une valeur de risque aux lieux, selon la présence ou non d’éclairage, une station de transport public, une terrasse de café, des fast-foods, des toilettes publiques, des bars, des arbres, des écoles, etc., en croisant ces données avec celles de la criminalité. Si le profilage de la population n’était pas supposé intervenir dans ce type de système, le développement des IA de reconnaissance faciale a changé la donne.

Les outils dont se dote la loi du 19 mai 2023 communément appelée « loi Jeux olympiques » combinent ces systèmes de police prédictive avec les systèmes de vidéosurveillance algorithmique (VSA). L’article 7 légalise à titre expérimental cette technologie jusqu’en 2025. Mais, comme le met en évidence le collectif La Quadrature du Net, « il est parfaitement clair que […] [la VSA] ne sera pas abandonnée après 2025. L’histoire législative récente illustre parfaitement le caractère fallacieux de ces expérimentations de papier31 ». On se rappelle en effet l’inscription dans le droit commun de mesures d’état d’urgence comme avec la loi du 30 juillet 2021 qui pérennise les mesures de police post-attentats (périmètres de protection, fermeture des lieux de culte, mesures individuelles de contrôle administratif et de surveillance)32. Au-delà du tremplin juridique pour inscrire la VSA dans le droit commun, le lobbying industriel est à l’œuvre. Le marché de la vidéosurveillance est en plein essor, bien qu’aucune évaluation des politiques publiques associées à ces technologies n’ait pu être menée à ce jour en France33.

Or, si on se rapporte au fonctionnement de ces systèmes, on retrouve une nouvelle fois à l’œuvre le machine learning, ses réseaux de neurones convolutifs rompus aux fausses corrélations. La reconnaissance d’un individu suspect, d’un comportement suspect ou d’un événement inhabituel passe par l’apprentissage de la machine sur des millions d’heures de vidéo de personnes et de lieux publics ou privés, et, comme dans tout processus d’apprentissage, l’erreur s’y glisse.

Aveuglement algorithmique

Outre le caractère invasif et l’expropriation massive de nos données personnelles, on ne dispose pas de critère permettant de distinguer une fausse corrélation d’une causalité. Si la machine associe un risque important à un certain type d’attitude, un certain type de vêtement ou à une certaine couleur, elle va renforcer ses critères d’identification pour viser en priorité les situations et les personnes qui entrent dans cette catégorie. Étant donné que la paramétrisation dépend des données disponibles (à Paris, celles de la DSPAP), ce genre de système est un levier de renforcement du déjà-vu. Par effet d’induction rétroactive, il est possible que la machine s’en prenne en priorité à des catégories de populations déjà victimes de discrimination policière. Comme on l’a vu au chapitre 3, un système probabilitaire inductif renforce nécessairement la reconnaissance d’un type donné dans un réseau de neurones indifférent aux corrélations fallacieuses. En entraînant donc une IA à identifier des individus dangereux, on pourrait sans s’en rendre compte générer des paramètres discriminants.

Dans les faits, les systèmes de prédiction des crimes ne prouvent pas l’existence réelle du crime à venir, mais plutôt le présupposent toujours et virtuellement déjà là. On peut entraîner des IA à reconnaître des petits hommes verts ou des dragons, sans que cela prouve ou non l’existence de ces entités, comme on peut entraîner une IA à reconnaître des criminels sans pour autant que ces derniers le soient réellement. Mais, dans le dispositif de police prédictive, on ne juge plus de la « réalité » des faits. Ce qui compte, c’est la performance de la machine dans l’établissement de corrélations pour augmenter le contrôle, augmenter les gains de productivité et ainsi renforcer la sécurité. L’expérience des réseaux sociaux montre que le sexisme et le racisme se propagent massivement depuis les données vers les algorithmes. Le machine learning comporte principalement le risque de biais par le fait d’une confusion entre les corrélations et la réalité, ainsi qu’entre l’apprentissage des règles et la conscience des règles. Lorsque des IA aveugles prêtent leurs yeux aux policiers pour prévoir les crimes, on peut s’attendre à des dérives dangereuses et des contrôles abusifs sur certaines populations. On propage ainsi l’injustice depuis l’erreur algorithmique vers l’erreur policière. On prouve l’existence d’une catégorie par la non-existence de cette catégorie dans les données.

En science comme dans une enquête policière, la preuve repose sur des faits matériels pouvant être vérifiés et accumulés. Si on considère par exemple l’énoncé « un nazi est un criminel », on peut asseoir l’hypothèse (1) « tous les nazis sont des criminels » en accumulant les preuves de leurs crimes. Mais si on considère l’énoncé « tel individu racisé est un criminel », on n’accroît pas la crédibilité de l’hypothèse (2) « tous les individus racisés sont des criminels » en collectant des cas de crimes perpétrés par des personnes de couleur. Pourquoi ? Tout simplement parce que, dans le premier cas, le tout ou l’ensemble détermine les parties, autrement dit l’action des individus participe du crime collectif. Alors que, dans le second cas, on détermine abusivement l’ensemble par la partie, en faisant passer l’action de certains individus pour la propriété de toute une communauté. Attribuer à celle-ci le visage du crime est tout bonnement une induction raciste. Car cette seconde hypothèse est non nomologique : aucune loi générale ne peut en l’espèce être déduite de l’accumulation d’exemples particuliers. C’est là le danger des statistiques ethniques qui escamotent sous la catégorie de l’origine des variables cachées, telles que la pauvreté. La VSA ne peut que valider ce genre de fausses corrélations discriminantes, puisque, on l’a vu, d’un point de vue purement logique, la règle d’induction reste la même pour l’hypothèse (1) et pour l’hypothèse (2).

Est-il possible d’entraîner une IA à les distinguer à mesure de l’observation successive des similitudes et des différences, donc à partir de l’expérience accumulée ? Peut-on réellement penser que le temps suffise à l’affaire ? Sait-on que le soleil se lèvera demain grâce à la série de tous les levers de soleil que nous avons vus ? Hume est parvenu à réveiller Kant de son sommeil dogmatique en questionnant cette causalité. La causalité est-elle dans les choses ou bien dans l’esprit de l’observateur, ou peut-être dans l’entre-deux ? Quoi qu’il en soit, il est bien plus difficile de réveiller un algorithme de son sommeil informatique. Aucune loi de la nature n’a été découverte par une IA seule, indépendamment de l’humain, pour la simple et unique raison que les IA ne peuvent pas distinguer une causalité d’une induction fallacieuse entre des séries d’événements.

Pour aller de l’avant, demandons-nous néanmoins si une VSA peut prédire les crimes en traitant des images. Une telle IA peut-elle apprendre à distinguer des paramètres pertinents à partir d’une structure logique d’induction en « visionnant » des millions d’heures de vidéo ? C’est ce que prétendent les défenseurs de ces technologies. Selon eux, en prolongeant le deep learning sur une longue période, les IA parviendraient à faire émerger des qualités perceptives sous la forme de catégories permettant d’identifier un criminel potentiel. Le criminel ressemble à ceci et à cela, nous dit l’IA. Mais c’est là le risque de réduire les crimes à des signes sans signifiant ou à des conduites sans intention avec des systèmes totalement absurdes comme celui de Two-I (expérimenté dans le tramway de Nice), supposé capable de lire les émotions sur les visages afin de détecter les individus potentiellement dangereux et prévenir les crimes mieux que ne le ferait un policier. Mais de quelle règle de projection faudrait-il disposer pour octroyer du sens aux mines des passagers et induire les intentions des plus renfrognés d’entre eux ?

Le paradoxe de Goodman

En général, pour contrôler la véracité de nos projections, on opère une coupure nette entre des prédicats (des attributs) « projetables » et des prédicats « non projetables ». Autrement dit, on dispose de qualités (de contenus) qui permettent de faire des prédictions et d’autres qui ne le permettent pas, sans qu’un critère formel nous permette de les distinguer. La coupure entre un prédicat projetable comme « bleu » et un prédicat non projetable comme « blert » relève ainsi du mystère de notre culture. On dira que le premier est « bien ancré » (well entrenched) dans notre langue alors que le second ne l’est pas du tout. Selon Nelson Goodman, ce n’est pas par l’accumulation d’expériences passées que le prédicat se trouve bien ancré ou non. Peut-on projeter à partir d’une série de choses la couleur des choses à venir, celle d’un criminel par exemple ? Comme le montre Goodman, si on utilise des prédicats « absurdes » dont on a pourtant fait l’expérience dans le temps, ces derniers n’acquièrent pas nécessairement de sens. Le sens échappe donc à l’accumulation des données empiriques collectées dans le temps.

L’aspect nomologique des prédicats tient à autre chose : il tient à la cohérence du prédicat vis-à-vis des autres prédicats, donc à sa cohérence avec la totalité de notre pensée (comme dans le fait que tous les nazis sont des criminels). Pour le démontrer, Goodman imagine un prédicat absurde, « vleu34 », qui s’applique à toutes les émeraudes vertes qui ont été observées avant l’an 2100 et à toutes les émeraudes bleues qui ont été observées après 2100 ou n’ont pas été examinées avant cette date. Si on suit la logique, la série d’émeraudes vertes examinées jusqu’à présent qui permet de confirmer la généralisation inductive selon laquelle toutes les émeraudes sont vertes confirme en même temps que toutes les émeraudes sont vleues, même si intuitivement l’une de ces propositions nous paraît bien étrange. Pourquoi ? Selon Goodman, on ne dispose pas de règle formelle pour distinguer les prédicats ayant un sens des prédicats qui n’en ont pas. C’est embêtant.

Les choses se corsent. Car la définition de « vleu » est telle que si une émeraude bleue apparaît après l’an 2100, elle est vleue mais n’est pas verte. Les observations suivantes d’émeraudes bleues confirmant la généralisation inductive selon laquelle toutes les émeraudes sont vleues équivaut maintenant à s’attendre à observer des émeraudes vleues. On soupçonne à raison un problème sémantique derrière tout ça. « Vleu » ne veut rien dire même si sa forme de prédicat est, par définition, correcte.

Pour appuyer encore davantage le paradoxe, Goodman inverse la série en ajoutant un nouveau prédicat « blert » : lorsque les émeraudes avant t sont bleues et après t vertes, elles sont blertes. Ainsi l’aporie est complète. Les couleurs « réelles » deviennent symétriquement identiques aux couleurs absurdes, si on admet qu’on ne les connaît que par l’accumulation d’expériences dans le temps. Comme l’indique Goodman, il n’y a rien ni dans la description ni dans la structure qui autorise à distinguer les prédicats en deux classes d’un point de vue strictement logique :

Il est certain que, si l’on part avec « bleu » et « vert », nous expliquerons « vleu » et « blert » en termes de « bleu » et « vert » plus un terme temporel. Il est cependant aussi vrai que, si l’on part avec « vleu » et « blert », la situation sera inversée… Le statut qualitatif est donc une propriété antérieurement relative et ne peut suffire à partager les prédicats en deux classes35.

Pour Goodman, la distinction qualitative entre les deux classes de prédicats ne relève pas de l’induction logique mais d’une étrange habitude sémantique qui ne trouve pas à s’expliquer. On le voit bien, l’inversion des prédicats antécédents (bleu et vert) et conséquents (vleu et blert) préserve la structure logique de l’induction mais efface en même temps la qualité des couleurs : le prédicat « bleu » s’applique alors à toutes les choses examinées avant t pour peu qu’elles soient « blertes » et à toutes les autres choses pour peu qu’elles soient « vleues » ; inversement pour ce qui est du prédicat « vert ». Mais alors peut-on dire que lesdites couleurs (bleu et vert), ainsi redéfinies, sont encore des couleurs ? Force est de constater que non. Par définition, la structure inductive est préservée mais les couleurs ont disparu. Elles sont pour ainsi dire devenues aveugles au monde.

Au niveau de la structure logique, on retrouve un même agencement de la projection des prédicats. Que « bleu » et « vert » soient définis en tant que t + 1 de « blert » et de « vleu », ou que ce soit l’inverse, cela ne change rien à la formulation logique de l’induction par l’expérience de la succession dans le temps des émeraudes. On peut faire l’expérience de la couleur des émeraudes dans les deux cas. On voit toutefois bien que tout perd alors son sens. Pour Goodman, cette apagogie est la preuve formelle que n’importe quoi confirme n’importe quoi. Il n’est donc pas possible de fonder l’induction d’une catégorie générale par la mise en série d’éléments aléatoires en grand nombre prolongés dans le temps. C’est pourquoi les machines à neurones ne peuvent pas parvenir à un apprentissage comparable au nôtre en se basant sur la forme logique de l’induction sur des données massives.

Coded gaze et racisme systémique

Joy Buolamwini et Timnit Gebru l’ont brillamment montré, les systèmes de reconnaissance faciale de Microsoft ou encore l’IA Watson d’IBM ont un taux de réussite très inférieur lorsqu’il s’agit de reconnaître une femme noire plutôt qu’un homme blanc, car la base de données sur laquelle ils se fondent est biaisée36. Buolamwini raconte à ce propos que, lorsqu’elle travaillait au MIT sur un projet de reconnaissance faciale, elle rencontrait des difficultés à programmer une IA à reconnaître son propre visage37. Elle fit alors une découverte qui changea sa compréhension du machine learning : lorsqu’elle portait un masque d’Halloween, l’IA parvenait à reconnaître un visage ; lorsqu’elle l’enlevait, elle disparaissait aux yeux de la machine. Quelle en était la raison ? Le masque était celui d’une personne blanche fictive, son visage celui d’une femme noire réelle. Comme la machine est aveugle au monde, Buolamwini était effacée dans le programme. La machine ne voit tout bonnement rien. Elle reconnaît ce que le programme mêlé aux données implémentées en elle permet de référencer et d’ordonner. Aussi, même si le cadre de nos sociétés démocratiques est censé s’opposer au racisme systémique, notre histoire et la latence de la haine le perpétuent dans notre culture, nos données et les algorithmes de nos d’IA.

On retrouve dans l’expérience de Buolamwini ce que Frantz Fanon relevait dans les années 1950 : « Les regards blancs, les seuls vrais, me dissèquent. Je suis fixé. Ayant accommodé leur microtome, ils réalisent objectivement des coupes de ma réalité38. » Et cette découpe du visage, c’est celle qui prolonge les biais de l’anthropométrie de Paul Broca dans le virtuel, c’est le devenir algorithmique du racisme scientifique. Ce biais de reconnaissance nappe le réel d’un masque virtuel, c’est l’effet de ce que Buolamwini appelle le coded gaze ou « regard codé ». De même que le male gaze (« regard masculin ») a façonné les images de la femme dans nos sociétés patriarcales en sélectionnant quel sujet féminin est désirable et quel autre ne l’est pas, le coded gaze façonne dans nos sociétés postcoloniales l’image du citoyen modèle ou de l’humain standard à partir de l’homme blanc ; ce qui génère des biais racistes dans nos systèmes d’IA.

Dans le cas de la VSA, en entraînant l’IA à reconnaître des risques paramétrés en fonction du coded gaze, ne tend-on pas à renforcer la discrimination vis-à-vis de toute personne non blanche ? Dès lors qu’un élément perturbe le standard, n’est-il pas considéré comme suspect ? Il est dès lors important de diversifier les bases de données, mais également de favoriser l’intelligibilité des systèmes d’IA afin d’éviter le renforcement des discriminations systémiques. Et bien que cela semble de plus en plus acté dans le domaine des services, grâce notamment au travail de Buolamwini et Gebru, il n’en est rien dans le domaine de la sécurité publique. En France, « les collectivités n’ont pas besoin de justifier des objectifs poursuivis par ce déploiement (technologique)39 », observe La Quadrature du Net. Pas d’objectif, pas de vérification. C’est la voie ouverte à une discrimination opaque qui ne dit pas son nom. Mais qu’est-ce donc que ce masque scientifique qui pare ce dispositif ? Le vernis mathématique au contrôle, que craignent les membres du Just Mathematical Collective, ne serait-il pas en train de nous illusionner en propageant discrètement la discrimination au sein même de la force publique ?

La visagéité

« Le visage ne se produit que lorsque la tête cesse de faire partie du corps, lorsqu’elle cesse d’être codée par le corps, lorsqu’elle cesse elle-même d’avoir un code corporel polyvoque multidimensionnel – lorsque le corps, tête comprise, se trouve décodé et doit être surcodé par quelque chose que l’on appellera le Visage40. » Selon Deleuze et Guattari, le visage, en tant que production machinique, est un agencement de signes et de subjectivités qui se projette et se constitue par-delà le corps. Il passe par tout un processus de décodage et de surcodage. Ce visage 1 produit par la machine allopoïétique de la visagéité, est à différencier de ce que j’appelle le visage 2, qui est de l’ordre d’un langage des émotions dont témoignent les travaux de Duchenne de Boulogne sur l’expression faciale. Il s’agit d’une forme de vie qui donne lieu à des jeux de langage qui échappent à l’IA et qui pourtant sont pour nous totalement intuitifs :

Non seulement l’homme possède le don divin de révéler les passions qui l’agitent par cette sorte de transfiguration de l’âme, mais il est aussi doué au plus haut degré de la faculté de sentir et de comprendre les expressions extrêmement variées qui viennent se peindre successivement sur la face de ses semblables. Ce sont des facultés instinctives qu’il possède en naissant41.

Le visage humain est une forme de vie qui se manifeste au contact des autres. Comme le montre Duchenne de Boulogne, la physiognomie traduit des états d’âme physiologiquement ancrés que nous avons à interpréter. Nous les comprenons instinctivement en saisissant le code sémantique qui s’en échappe. Mais, pour ce qui est de la structure physiologique dont il dépend, il faut en passer par l’expérimentation.

À travers elle, une mécanique des émotions, que le philosophe et historien de la médecine François Delaporte appelle une « anatomie des passions42 », se révèle. Elle montre que le visage est pleinement incarné dans une structure organique, une forme de vie singulière, qui communique par un langage de signes. C’est précisément ce visage 2 qui s’efface dans les algorithmes de nos IA pour ne laisser apparaître qu’un faciès construit par un ensemble de normes non physiologiques. Le visage numérisé passe en effet par tout un processus de décodage ou de séparation vis-à-vis du corps et de son milieu naturel. Le visage se désorganise, se déterritorialise, devient corps-sans-organe, pour mieux se reterritorialiser dans un dispositif de striage de l’information biométrique. Notre visage d’état civil se forme toujours dans un espace strié. Lorsque ce visage civil apparaît, c’est le corps qui disparaît. Si on pense par exemple aux normes des photos d’identité, on voit à quel point toute une mise en scène est nécessaire pour que nous puissions être identifiés par une machine. « Le visage-chose, le visage-identité qui résulte de la bonne observance des normes de représentation et qui est photographié en l’état par une machine, doit être mesurable et reconnaissable par une machine43. » Comme le montre Emmanuel Fournier, pour que la machine puisse lire le visage, il faut se conformer à des paramètres précis, comme la norme ISO/IEC 19794-5 utilisée pour assurer la compatibilité des photos d’identité de nos passeports avec les systèmes de reconnaissance faciale et l’interopérabilité d’un logiciel à l’autre, qui modifient le contexte signifiant (la cabine), réglementent l’habillage, interdisent l’accompagnement ainsi que tous les effets de regard.

Le visage 1 est décodé et surcodé dans un paysage distinct du corps et du milieu de vie. Ce n’est plus une forme de vie mais une fonction servie par une IA. « La machine abstraite de visagéité prend un rôle de réponse sélective ou de choix : un visage concret étant donné, la machine juge s’il passe ou ne passe pas, s’il va ou ne va pas, d’après les unités de visages élémentaires44. » Le visage 2 est déconstruit par tout une mécanique d’identification qui mesure ce qui n’est pas mesurable et change les jeux de langage de nos expressions en règle d’adaptation pour en faire un visage 1. Il faut pour y parvenir toute une pratique de la règle. Je me rappelle à quel point j’ai eu du mal à prendre ma photo d’identité pour mon visa J-1 qui devait me permettre de me rendre à Harvard. Lorsque je me suis présenté dans le Photomaton du métro Gabriel-Péri, aucune prise ne convenait. Je tentais de modifier l’angle, ma position, mon col, etc., rien à faire. J’abandonnai au bout de trente minutes, pour recommencer le lendemain. J’ai alors tenté ma chance dans une nouvelle machine à Champs-Élysées-Clemenceau. Encore un échec. Je me suis rendu finalement au consulat avenue Gabriel à Paris sans photo. Après avoir souffert l’attente et les contrôles, l’abandon de mon sac et de tous mes accessoires, on m’a dirigé vers la cabine du consulat. J’entrai. Encore le même rituel. Et encore un échec. Je me suis dit qu’il y avait peut-être quelque chose à faire : ouvrir grand les yeux ! La photo était prise. J’obtins mon visa. Je sentis en moi naître une sorte de malaise : il m’a semblé être passé par la réduction de mon identité vers ce visage 1, dans un agencement de signes et de subjectivations pour la machine. Le pouvoir avait strié l’ensemble sémiotique des manifestations de ma subjectivité à travers un paysage virtuel sans aucun sens. J’avais été réifié au degré zéro de la brutalisation que subissent quotidiennement les migrants. Devenir un visage 1, c’est devenir un corps brut, la chose du pouvoir. « Il s’agit d’une abolition concertée du corps et des coordonnées corporelles par lesquelles passaient les sémiotiques polyvoques et multidimensionnelles. On disciplinera les corps, on défera la corporéité, on fera la chasse aux devenirs animaux, on poussera la déterritorialisation jusqu’à un nouveau seuil, puisqu’on sautera des strates organiques aux strates de signifiance et de subjectivation45. »

Peut-être qu’au fond Foucault avait raison : lorsqu’on écrit, c’est toujours pour échapper à cet état civil, sortir de l’espace strié du pouvoir pour se projeter dans la page blanche : « Plus d’un, comme moi sans doute, écrivent pour n’avoir plus de visage. Ne me demandez pas qui je suis et ne me dites pas de rester le même : c’est une morale d’état civil ; elle régit nos papiers. Qu’elle nous laisse libres quand il s’agit d’écrire46. » Si donc il y a une « mort de l’auteur » dans l’écriture, c’est celle du registre, celle de la bureaucratie, celle de Mathieu (Jean-Claude) Corteel né à Cayenne le 22 mars 1990, tamponné, estampillé et ordonné dans les tableaux de l’administration. Cet auteur meurt pour mieux renaître sans visage dans la liberté du devenir, celle de la pensée du lecteur.

1. « Letter to AMS Notices : Boycott collaboration with police », 15 juin 2020.

2. Simone BROWNE, Dark Matters : On the Surveillance of Blackness, Durham, Duke University Press, 2015.

3. THE JUST MATHEMATICAL COLLECTIVE, « Towards a mathematics beyond police and prisons », 21 octobre 2020.

4. Daniel KRASHEN, « Open algorithms, social justice and predictive policing », Notice of the American Mathematical Society, octobre 2020.

5. Davide CASTELVECCHI, « Mathematicians urge colleagues to boycott police work in wake of killings », Nature, 19 juin 2020.

6. George O. MOHLER, Martin B. SHORT, Sean MALINOWSKI, Mark JOHNSON, George E. TITA, Andrea L. BERTOZZI et P. Jeffrey BRANTINGHAM, « Randomized controlled field trials of predictive policing », Journal of the American Statistical Association, vol. 110, no 512, 2015, p. 1399-1411.

7. LAUTRÉAMONT, Les Chants de Maldoror, in Œuvres complètes, Paris, José Corti, 1987, p. 95.

8. ETAS : Epidemic-type aftershock sequence.

9. Bilel BENBOUZID, « Des crimes et des séismes. La police prédictive entre science, technique et divination », Réseaux, vol. 206, no 6, 2017, p. 101.

10. Adolphe QUETELET, Sur l’homme et le développement de ses facultés. Essai de physique sociale, Paris, Bachelier, 1835, t. I, p. 12.

11. B. BENBOUZID, « Des crimes et des séismes », art. cité, p. 111.

12. Jean-Marie LEGAY, L’Expérience et le Modèle, Paris, Quae, 1997, p. 56.

13. Bilel BENBOUZID, « Quand prédire, c’est gérer. La police prédictive aux États-Unis », Réseaux, vol. 211, no 5, 2018, p. 221-256 ; Emmanuel DIDIER, « Compstat à Paris : initiative et mise en responsabilité policière », Champ pénal, vol. VIII, 11 juin 2011.

14. Franz KAFKA, Le Procès, trad. Alexandre Vialatte, Paris, Gallimard, 1957, p. 252-253.

15. G. DELEUZE, « Post-scriptum sur les sociétés de contrôle », art. cité.

16. William BURROUGHS, Le Festin nu, trad. Éric Kahane, Paris, Gallimard, 1964, p. 36

17. Cathy O’NEIL, Weapons of Math Destruction : How Big Data Increases Inequality and Threatens Democracy, New York, Crown Publishers, 2016, p. 78.

18. Michel FOUCAULT, Surveiller et punir. Naissance de la prison, Paris, Gallimard, 1975, p. 38.

19. Ibid., p. 234.

20. Ibid.

21. Gilles DELEUZE, Foucault, Paris, Minuit, 1986, p. 43.

22. Michel FOUCAULT, Sécurité, territoire, population. Cours au Collège de France, 1977-1978, Paris, EHESS-Gallimard-Seuil, 2004, p. 21-22.

23. Du grec kubernêtês signifiant « commande ».

24. Martin HEIDEGGER et Eugen FINK, Héraclite. Séminaire du semestre d’hiver 1966-1967, trad. Jean Launay et Patrick Lévy, Paris, Gallimard, « Tel », 2017, p. 23-24.

25. Ibid., p. 24.

26. Ibid.

27. G. SIMONDON, Du mode d’existence des objets techniques, op. cit., p. 104.

28. Leila MILLER, « LAPD will end controversial program that aimed to predict where crimes would occur », Los Angeles Times, 21 avril 2020.

29. LA QUADRATURE dU NET, « La police prédictive en France : contre l’opacité et les discriminations, la nécessité d’une interdiction », 18 janvier 2024, p. 15.

30. Camille GOSSELIN, « La police prédictive, enjeux soulevés par l’usage des algorithmes prédictifs en matière de sécurité publique », Paris, IAU, 2019, p. 13.

31. LA QUADRATURE dU NET, « Projet de loi relatif aux Jeux Olympiques et Paralympiques de 2024 : dossier d’analyse de la vidéosurveillance automatisée », 21 janvier 2023, p. 7.

32. Margot PUGLIESE, « Renforcement de la prévention d’actes de terrorisme : la loi publiée », Dalloz actualité, 7 septembre 2021.

33. LA QUADRATURE dU NET, « La police prédictive en France », art. cité.

34. Nelson GOODMAN, Faits, fictions et prédictions, trad. Martin Abran, Paris, Minuit, 2016, p. 87-88.

35. Ibid., p. 92.

36. Joy BUOLAMWINI et Timnit GEBRU, « Gender shades : Intersectional accuracy disparities in commercial gender classification », Proceedings of Machine Learning Research, no 81, 2018.

37. Joy BUOLAMWINI, Unmasking AI : My Mission to Protect What Is Human in a World of Machines, New York, Random House, 2023.

38. Frantz FANON, Peau noire, masques blancs, Paris, Seuil, 1952, p. 93.

39. LA QUADRATURE dU NET, « Projet de loi relatif aux Jeux Olympiques et Paralympiques de 2024 : dossier d’analyse de la vidéosurveillance automatisée », art. cité, p. 20.

40. G. DELEUZE et F. GUATTARI, Mille plateaux, op. cit., p. 208.

41. Guillaume DUCHENNE DE BOULOGNE, « Considérations générales sur la mécanique de la physiognomie », in François DELAPORTE, Emmanuel FOURNIER et Bernard DEVAUCHELLE (dir.), La Fabrique du visage. De la physiognomonie antique à la première greffe. Avec un inédit de Duchenne de Boulogne, Turnhout, Brepols, 2010, p. 31.

42. François DELAPORTE, Anatomie des passions, Paris, Hermann, 2016.

43. Emmanuel FOURNIER, « Une identité à façonner », in F. DELAPORTE, E. FOURNIER et B. DEVAUCHELLE (dir.), La Fabrique du visage, op. cit., p. 245.

44. G. DELEUZE et F. GUATTARI, Mille plateaux, op. cit., p. 217.

45. Ibid., p. 221.

46. M. FOUCAULT, L’Archéologie du savoir, op. cit., p. 28.

6

Le capitalisme cognitif avancé

« À travers ces barreaux symboliques séparant deux mondes, la grande route et le château, l’enfant pauvre montrait à l’enfant riche son propre joujou, que celui-ci examinait avidement comme un objet rare et inconnu. Or, ce joujou, que le petit souillon agaçait, agitait et secouait dans une boîte grillée, c’était un rat vivant ! »

Charles BAUDELAIRE,
« Le joujou du pauvre », 1853.

« Un rat devint l’unité monétaire. »

Don DELILLO Cosmopolis, 2003.

En 2017, au Facebook Artificial Intelligence Research Lab, des chercheurs entraînent des IA sur de grands ensembles de données langagières pour développer de nouvelles fonctions de négociation. Mais, au lieu d’optimiser les deals sur les marchés, les IA se sont mises à délirer. Elles ont été victimes d’un bug. Au cours de l’entraînement, elles ont commencé à parler une langue non humaine incompréhensible1. Les IA se sont perdues dans la bibliothèque de Babel. On aurait alors pu, tel Champollion face à la pierre de Rosette, déchiffrer ce mystérieux dialogue, ou tout simplement rire de la situation. Mais ce n’est pas de cette manière-là que les ingénieurs de Facebook ont réagi. Le bug leur a paru irrécupérable. Il avait anéanti des mois de travail. En sortant des frontières du langage humain, les IA étaient tout bonnement devenues inutiles. Leur modèle fonctionnel, simple et intuitif, devait aider à la négociation pour éviter le no deal sur les marchés2, mais il s’était engouffré dans un baratin computationnel insensé. Le projet d’intégrer l’IA de Facebook à la coopération des cerveaux humains avait vécu. Que de rêves déçus ! Celui de voir l’IA favoriser les deals entre vendeurs et acheteurs sur les plateformes, d’aider aux négociations de fusion-acquisition de grandes multinationales ou de permettre des décisions de politiques budgétaires éclairées s’était envolé. Un échec, voilà tout.

Cependant, le bug a une vertu heuristique3. Par-delà le dysfonctionnement technique, il met en exergue l’illusion inhérente à cette nouvelle main invisible du marché. En évitant le no deal, l’IA de Facebook devait nous permettre d’éviter le ralentissement des échanges économiques provoqués par nos doutes. La combinatoire était vouée à fluidifier les échanges et accroître les richesses en éludant les tergiversations humaines. Le bug a souligné le fait que le programme de la raison est lui-même sujet à la folie.

Au néophyte, cette anecdote paraîtra tout droit sorti d’un roman de science-fiction. Se peut-il que l’on envisage de confier les échanges économiques mondiaux aux circuits de nos IA ? Mais, pour le trader, ce n’est pas une nouveauté. L’intégrations d’agents artificiels sur les marchés s’inscrit dans une longue histoire de simulation économique4. Les premiers algorithmes de simulation des comportements des acheteurs et des vendeurs remontent aux années 1960. Ce qui n’était alors qu’une modélisation destinée à analyser les rouages de l’économie est peu à peu devenu la réalité de la finance internationale. Dès les années 1990, certains experts font même le pari d’un remplacement prochain de l’humain par l’IA pour rationaliser l’économie et favoriser une dynamique optimale de libre-échange5.

Depuis les années 2010, les transactions financières se sont massivement automatisées et virtualisées. Ce sont aujourd’hui des algorithmes (Guerrilla, Sumo, Sonar, Oasis, etc.) opérant sur des plateformes de négociations virtuelles (comme Archipelago du New York Stock Exchange) qui gèrent la richesse du monde à la vitesse de l’éclair. À l’heure où le trading à haute fréquence représente environ les deux tiers des transactions sur les marchés financiers et où le gonflement de la part immatérielle de la valeur d’échange continue de croître, il convient de se demander ce que suppose une telle automatisation du capitalisme. Dans les années à venir, va-t-on assister à l’extension du pouvoir des IA dans les négociations des multinationales ou encore dans celles des politiques budgétaires ? Remplaceront-elles nos décideurs ? Probablement.

La finance fantôme

En 1929, on se défenestrait. En 1987, on raccrochait les téléphones. En 2008, on optimisait des algorithmes. Comme le retrace Alexandre Laumonier, durant le lundi noir d’octobre 1987, le téléphone, qui faisait jusque-là office de module d’information entre les traders (buy-side), les courtiers (sell-side) et les plateformes d’exécution (stock exchange)6, est devenu obsolète7. Alors que le Dow Jones chutait de 508 points en quelques heures, les traders et les courtiers ont buggé. Entre les appels téléphoniques, les indices affichés sur les écrans, les signes de leurs partenaires et l’angoisse de tout perdre, ils ont été submergés de données à traiter dans un temps limité. Si bien qu’ils ne furent pas en mesure d’absorber et d’analyser le torrent d’informations qui leur tombait dessus. Les appels restaient suspendus dans le vide de leurs combinés. Il n’y avait plus personne au bout du fil. Il fallait alors trouver de nouveaux canaux de communication. À la suite de cette crise, les algorithmes ont fait leur entrée en scène sur les marchés pour gérer le déferlement de données et optimiser les placements financiers à une vitesse inégalée, subdivisant les secondes.

Le trader était lui-même devenu un frein aux flux financiers du capitalisme avancé. Entre la fin des années 1980 et le début des années 1990, les quelques geeks de Wall Street, comme Thomas Peterffy, Joshua Levine ou Jeffrey Citron, qui avaient eu la bonne idée de développer des algorithmes de gestion des actifs sur les marchés ont pu imposer une nouvelle manière de faire transiter l’or immatériel du monde. Levine, qui avait intégré la société de courtage Datek, dirigée par le controversé Sheldon Maschler, a fait un trou dans la brèche ouverte par le Nasdaq avec l’introduction du Small Order Execution System (SOES) pour désengorger le flux. En effet, le SOES est un système qui autorise les petits investisseurs à passer des ordres plus rapidement sans passer par tous les intermédiaires humains. « Alors que les gros investisseurs passaient par des traders humains […] le SOES était complètement automatisé8. » La machine de Levine a donc pris de vitesse l’humain, au point de changer radicalement l’organisation de la finance.

Le développement de logiciels évaluant en temps réel les positions gagnantes sur les marchés alliés aux systèmes d’optimisation des investissements a totalement modifié la place des traders, qui ont rapidement quitté le parquet de la Bourse pour se coller derrière un écran d’ordinateur :

Fin 2007, les marchés n’avaient plus rien à voir avec ce qu’ils étaient ne serait-ce que vingt ans auparavant. En moins d’un quart de siècle, les parquets, les ardoises et la criée avaient laissé place à des marchés privés détenus par les banques, entretenus par un réseau mondial d’ordinateurs qui réalisaient des transactions à une vitesse inégalée […]. Le soulèvement des machines, largement soutenu par les banques, avait donné naissance à un écosystème d’une complexité technologique extrême, où des algorithmes se battaient entre eux pour acheter ou vendre des titres avec des marges inférieures à 1 cent en quelques microsecondes. Les marchés financiers étaient entrés dans l’ère du trading à haute fréquence9.

Dans cette subdivision infinie du temps, le marché s’est rempli de fantômes que l’on ne contrôle plus. Depuis quelques années, on observe des phénomènes étranges, qu’on a appelés des black swans (« cygnes noirs »), en référence à la théorie développée par le statisticien Nassim Taleb pour analyser la portée spectaculaire des événements imprévisibles10. En modifiant la microstructure de la finance, le trading à haute fréquence a changé l’espace-temps de l’économie ; quelques microsecondes peuvent dorénavant tout changer11. Dans cette nouvelle temporalité, l’équilibre et le chaos coexistent en permanence. L’hybridation de l’équilibre et du déséquilibre modifie totalement la perception des marchés qui superposent simultanément la destruction et la création de valeurs en un clin d’œil. Un article publié dans Nature en 2013 montre que 18 520 krachs boursiers ultrarapides ont eu lieu entre 2006 et 201112. On parle de krachs d’une durée de moins de 650 millisecondes, ce qui correspond à environ deux clins d’œil consécutifs13, un mouvement trop rapide pour que la conscience humaine puisse appréhender un tel événement. Pourtant, c’est dans cette infratemporalité des algorithmes que se joue en Bourse une part massive des transactions financières impactant toute notre économie.

Par exemple, le 6 mai 2010, on a vu le Dow Jones perdre 976 points en l’espace de quelques minutes pour retrouver ensuite son niveau précédent sans raison. Ce qui peut paraître invraisemblable à un individu extérieur au jeu de la finance constitue une aubaine pour ceux qui maîtrisent les algorithmes à même de saisir l’opportunité fugace d’une chute si rapide et d’ainsi acquérir des actions à bas prix pour empocher le gros lot. D’ailleurs, ce phénomène n’épargne personne. Il touche même les géants de la Tech : le 25 janvier 2013, en un instant, le cours d’Apple a subi une décote de 2 % avant de revenir à son niveau précédent dans la minute qui a suivi. Entre 16 h 29 et 16 h 30, il fallait acheter des actions pour s’en mettre plein les poches. Comment maîtriser une telle temporalité qui outrepasse le délai de la réponse humaine ? Y a-t-il un pilote dans la machine ? Les immatériels de la finance sont-ils autogérés par des IA ? Et si tel est le cas, comment réguler et taxer ce type de transactions ?

Dans les faits, une grande partie de l’activité de la finance est totalement fantomatique. Il faut savoir que les algorithmes à haute fréquence génèrent tellement d’ordres sur les marchés qu’environ 90 % d’entre eux ne sont jamais exécutés et que 30 % de ces derniers sont éliminés en l’espace de 5 millisecondes14, ce qui correspond à environ un quarantième de la durée d’un clin d’œil. Il ne sert donc à rien de vouloir analyser précisément chaque transaction pour en saisir une part, il faut comprendre l’ensemble. Dans la dynamique des ordres transmis sur les marchés financiers par algorithme, il n’y a rien d’autre que du calcul itératif s’exécutant le plus vite possible pour réaliser des marges infimes sur des quantités immenses d’opérations, voilà tout. L’itération frénétique des marges infinitésimales ainsi générées multiplie les gains des agents dotés des algorithmes les plus performants. D’autres saturent les marchés en ordres pour faire bugger le système et favoriser leurs propres transactions. Tout tient aux canaux à travers lesquels transitent les informations codées qui permettent la communication et l’exécution des ordres entre le buy-side, le sell-side et la plateforme. Le jeu est de trouver le moyen d’arriver le premier en contournant les intermédiaires ou en bloquant les algorithmes adverses.

Ainsi, l’agencement de la finance contemporaine tient à un système de codes traités à grande vitesse. Il s’agit d’un marché entièrement virtuel ayant son propre langage :

Le Protocole Financial Information eXchange (FIX) fournit une solution standardisée pour gérer les ordres […]. Chaque acteur doit parfaitement traduire le message électronique dans les balises XML prévues par le protocole FIX afin de pouvoir communiquer [avec les autres]. Les plateformes de trading reçoivent des ordres traduits en messages FIX et renvoient des messages FIX détaillant l’état de l’ordre et d’autres informations d’échange connexes15.

Les messages FIX, compris de tous les praticiens du marché, sont traités selon l’heure d’arrivée, d’où la nécessité de recourir aux algorithmes pour emprunter les canaux les plus courts et remporter la course. Les plateformes ont d’ailleurs, dès les années 2010, réduit le temps de latence pour qu’un ordre leur parvienne le plus rapidement possible depuis le sell-side vers les plateformes d’exécution. On est passé de quelques centaines de millisecondes à plus ou moins cent microsecondes à la fin des années 2010. Aussi, cette accélération s’est dotée opportunément d’algorithmes permettant d’ajuster les ordres en temps réel selon les variations du marché. C’est ainsi que chacun a eu le projet de développer des stratégies de réduction du temps de latence (d’optimisation) à partir de divers algorithmes en compétition dans les interstices les plus infimes du temps16. Au point de défier la vitesse de la lumière17.

Naufrage avec spectateurs

« Toute fortune est devenue fortune en soi. Il n’y a plus d’autre sorte d’énorme fortune. L’argent a perdu son caractère narratif de même que la peinture l’a perdu jadis. L’argent se parle à lui-même. » Alors que Parker (le golden boy de Wall Street) et Kinski (sa responsable R&D) transitent dans une limousine blindée au milieu d’émeutes urbaines, dans un New York à feu et à sang, Kinski entame une réflexion philosophique sur ce que les anciens appelaient la chrématistique ou l’art de gagner de l’argent. Selon elle, avec les développements du cybercapitalisme, l’argent est devenu autoréférentiel et le marché total : « Qu’est-ce que tu as acheté pour cent quatre millions de dollars ? […] Tu as payé pour le chiffre lui-même. Cent quatre millions. Voilà ce que tu as acheté. Et ça les vaut. Le chiffre est sa propre justification18. »

Dans Cosmopolis de Don DeLillo, adapté au cinéma par David Cronenberg, l’échange entre Parker et Kinski souligne brillamment l’autoréférentialité des valeurs marchandes projetées dans la temporalité des transactions à haute fréquence. La propriété, la valeur d’usage comme le présent n’ont plus aucun sens dans la finance fantôme. La seule chose qui compte, c’est le chiffre pris dans la vitesse des algorithmes. Il s’agit de précipiter le futur à partir de nombres abstraits qui donnent l’illusion de ne pas impacter le monde matériel. On subdivise ainsi le temps à l’infini, jusqu’à la nanoseconde, zeptoseconde, yoctoseconde pour accélérer la cadence de production des immatériels. « Le temps est désormais une valeur d’entreprise. Il appartient au système du libre marché. Le présent est plus difficile à trouver. Il est en train d’être aspiré du monde pour laisser place au futur des marchés incontrôlés et à un énorme potentiel d’investissement. Le futur devient instant19. » Ce futur-instant de la finance à haute fréquence, c’est précisément l’acmé du processus technologique d’accélération décrit par Hartmut Rosa qui nous prive de la résonance avec le monde et nous-mêmes20. De l’accélération des moyens de transport jusqu’à l’accélération de l’information, c’est le mouvement du capital immatériel qui s’achemine vers un accroissement indéfini.

Alors que les marchés deviennent chaotiques sous leurs yeux, Parker et Kinski ne sont plus que des spectateurs impuissants face aux externalités du marché. Ils assistent alors à l’immolation d’un des manifestants en même temps qu’à la chute vertigineuse du dollar. L’externalité sauvage de l’homme en feu pousse Parker à contredire l’hypothèse du marché total de Kinski : « Le marché n’était pas total. Il ne pouvait revendiquer cet homme ni assimiler son geste. Pas une horreur aussi crue21. » Cet acte échappe au marché par l’horreur. « L’horreur, l’horreur… », c’est ce que murmure le colonel Kurtz en mourant à la fin d’Apocalypse Now, pour signifier que l’externalité sauvage du sacrifice n’a plus la moindre explication rationnelle dans la guerre à laquelle il avait pris part. Elle ne se justifie que par elle-même. Dans le monde de la finance, l’horreur, ce sont les externalités négatives générées par des transactions insensées. Ainsi que la définit Arthur Cecil Pigou, l’externalité en économie apparaît lorsqu’une « personne A, en rendant un service, pour lequel un paiement est acquitté, à une seconde personne B, rend incidemment des services ou cause des dommages à des tiers (qui ne les produisent pas), de telle sorte qu’un paiement ne peut être tiré des bénéficiaires ni des compensations pécuniaires déboursées au profit des personnes lésées22 ». Le service de Kinski pour optimiser la machine financière de Parker produit donc des externalités négatives qui apparaissent dans toute leur cruauté à travers les actes de désespoir des manifestants, sans que la moindre compensation soit possible.

À l’instar de ce que décrit Rosa à propos de l’aliénation intrinsèque à la vitesse des technologies, les algorithmes génèrent des externalités négatives à haute fréquence qui impactent le monde depuis l’immatériel vers le matériel : marchandisation à outrance, désubstantialisation du travail, saccage de l’écosystème. L’incapacité cognitive à suivre le rythme rend les effets de ce processus incontrôlables. Comme le dit Kinski alors que les émeutes battent leur plein :

C’est la vitesse qui compte. Peu importe le renouvellement sans fin, la façon dont les informations se dissolvent à un bout de la série pendant qu’elles se forment à l’autre. C’est ce qui compte, l’élan, le futur. Nous n’assistons pas tant au flux de l’information qu’à un pur spectacle, l’information sacralisée, rituellement illisible […] Est-ce que ça ne s’arrête jamais ? Est-ce que ça ralentit ? Bien sûr que non. Pour quoi faire23 ?

Sommes-nous condamnés à assister les bras croisés au spectacle algorithmique de notre naufrage civilisationnel, ou existe-t-il une manière de favoriser économiquement les externalités positives et d’indemniser la société en contrepartie des externalités négatives de la finance à haute fréquence ? On pourrait, sans trop d’imagination, tirer profit du jeu d’optimisation des marchés financiers en instaurant une taxe minimale automatique qui s’appliquerait à tous les ordres émis, qu’ils aboutissent ou non à l’obtention d’un titre. Cette taxe fantôme permettrait de générer énormément d’argent, prélevé sur toutes les transactions à haute fréquence. Cela conduirait également à dissuader les ordres fantomatiques passés sur les marchés (90 % d’entre eux ne sont pas exécutés) et limiterait considérablement l’impact environnemental des technologies numériques : un datacenter de données financières comme celui de Mahwah dans le New Jersey constitue à lui seul la plus grosse dépense en énergie de l’État. Une telle régulation du trading à haute fréquence ouvrirait aujourd’hui des perspectives bien plus étendues que la taxe Tobin24, qui cible les seules transactions financières portant sur les devises afin de limiter la volatilité des taux de change.

Étendre le spectre de la taxation au trading à haute fréquence serait une manière de prendre à revers les fantômes du marché financier sans tomber dans le piège d’une interdiction légale qui serait coûteuse et probablement contournée. Ce levier permettrait de financer copieusement le revenu universel et de redistribuer une part de la richesse de la finance pour favoriser la justice sociale et l’écologie.

Le capitalisme cognitif avancé

Comme ne cessent de le rappeler les ingénieurs de Wall Street, l’humain est devenu trop lent pour suivre le rythme des échanges financiers. En lui substituant des IA collectant et agençant les Cn2, c’est-à-dire des connaissances informelles, les big tech affinent leurs tableaux microéconomiques, et influencent en retour les dynamiques des agents, afin de nous rendre « plus rationnels » et efficaces, voire, peut-être, de s’approprier la cognition de toute personne s’engageant dans un échange économique. Dans cet espace de décision latent, le capitalisme cognitif code et transcode les connaissances informelles de l’humain vers l’IA, sous la forme de données, pour favoriser des dynamiques microéconomiques par le deal algorithmique. Cette introduction des IA dans le marché impacte ainsi les immatériels, c’est-à-dire la dimension essentielle de la valeur d’échange. L’immatériel, c’est ce qu’on achète quand on paye 100 euros un vêtement dont le coût de fabrication n’est que de 5 euros et celui du transport de 3 euros. On achète la marque, le symbole, la mode, le style, l’inventivité, l’innovation, ou que sais-je encore ? De même, lorsque la capitalisation boursière d’une entreprise représente trois fois plus que son chiffre d’affaires ou qu’un joueur de foot empoche plus d’argent qu’il ne peut en dépenser en dix vies, ce sont les immatériels qui pèsent dans la balance. Mais comment l’immatériel est-il devenu le nouvel eldorado du capitalisme ?

Comme le montre Yann Moulier Boutang, le capitalisme est passé par un processus de transformation en trois âges qui nous a conduits à survaloriser les immatériels dans le capital, c’est-à-dire les échanges, la circulation et la coopération entre cerveaux par rapport aux usages. Tout d’abord, il y a eu (1) « le capitalisme mercantiliste, fondé sur l’hégémonie de mécanismes d’accumulation de type marchand et financier et qui se développe entre le début du XVIe siècle et la fin du XVIIe siècle » ; ensuite (2) « apparaît le capitalisme industriel, fondé sur l’accumulation du capital physique et sur le rôle moteur de la grande usine manchestérienne dans la production de masse de biens standardisés », enfin (3) s’est imposé « le capitalisme cognitif […] fondé sur l’accumulation du capital immatériel, la diffusion du savoir et le rôle moteur de l’économie de la connaissance »25. Alors que pour (1) et (2) la valeur d’usage est cruciale dans la détermination du prix, elle devient obsolète pour (3). Ce qui compte, ce sont les immatériels qui gonflent la valeur d’échange.

Il me semble pertinent d’ajouter à ce tableau une étape 3.1, qui caractérise le capitalisme cognitif « avancé ». Elle apparaît avec l’accumulation des immatériels 2, constitués par la codification et l’intégration de nos connaissances informelles dans la microéconomie algorithmique. En un sens, dans le capitalisme cognitif avancé, l’IA est appelée à réguler l’intégration des externalités positives et l’évacuation des externalités négatives, c’est-à-dire à favoriser l’intégration des actions entraînant des gains (information) et l’évacuation des actions entraînant des pertes sur les marchés (entropie), par-delà l’échange interindividuel, au niveau de la coopération entre les cerveaux et les IA. Mais qu’est-ce que l’IA change aux externalités ? On pourrait dire qu’elle oriente l’accumulation du capital cognitif. Elle vectorise l’accumulation des Cn2 en expropriant la propriété intellectuelle des individus à partir des usages qu’elle offre « gratuitement ».

En devenant un vecteur de production de contenus culturels touchant tous les usages, les IA aliènent nos facultés d’invention, de création ou d’innovation. Par exemple, en utilisant une IA pour écrire un texte, le prompt m’appartient mais l’output appartient à la compagnie. Car ce qui compte, ce n’est pas ce que j’écris, c’est l’activité cognitive que je génère dans l’échange avec l’IA ; c’est la valeur d’échange immatérielle, dont on m’exproprie en analysant mon activité cognitive. La valeur d’usage que j’en retire en utilisant cet outil ne vaut rien en comparaison. Autrement dit, les IA sont entrées dans le domaine de l’intelligence collective pour mieux saisir la valeur d’échange et nous laisser le loisir d’une valeur d’usage dévolue. Sous cet angle, le capitalisme cognitif vise l’exploitation de niveau 2 décrite par Moulier Boutang, c’est-à-dire l’exploitation de notre intelligence collective, de notre inventivité, de notre créativité, de notre innovation. Le capitalisme cognitif a su tirer parti de ce que Marx, dans les Grundrisse, appelait l’« intelligence générale collective », qui « n’est ni le temps de travail utilisé, ni le travail immédiat effectué par l’homme », mais l’« appropriation de sa force productive générale, de son intelligence de la nature et sa faculté de la dominer »26.

L’énergie discontinue du capitalisme cognitif

Dans les années 1940, Simone Weil s’est adonnée à une critique peu convaincante de la physique quantique27. En considérant que celle-ci s’émancipait de la vision finaliste de la nature, elle a néanmoins formulé une intuition intéressante concernant le passage de la force de travail continu du capitalisme industriel vers le travail discontinu et ondulatoire du capitalisme cognitif. Selon elle, le développement de la physique quantique aurait chamboulé le système physique auquel correspondait le travail continu des muscles et de l’effort, pour le transformer en une forme de travail discontinu, superposé et intriqué. Dans le passage de la mécanique décrivant la force de pesanteur à la mécanique décrivant la puissance motrice de la chaleur (révolution industrielle) de laquelle découlait la capitalisation de l’énergie physique dans le capital, une brèche s’est ouverte qui a permis de comprendre l’entropie et la néguentropie de manière statistique28. L’énergie est désormais apparue comme le produit du mouvement ondulatoire de particules infimes dans un système thermique. Contre la vision de la mécanique classique, le paradigme de la thermodynamique a ouvert la voie à une conception probabiliste des états discontinus de particules dont l’émission et l’absorption d’énergie se produit dans le spectre ou l’externalité du corpuscule29.

C’est alors que l’attention s’est déplacée du corps et du mouvement continu aux ondes discontinues du rayonnement des corpuscules. La conception de l’énergie a ainsi changé d’échelle depuis le macroscopique vers le microscopique30. En effet, ce qui compte dans la mécanique quantique comme dans le capitalisme cognitif, c’est ce qui émane, les ondes, les externalités des corpuscules. La mécanique quantique a ainsi bouleversé la conception de l’énergie en passant de la description d’une interaction matière-matière à celle de l’interaction matière-lumière, définie par Max Planck en termes de fréquence, d’ondulation et de spectres d’émission et d’absorption. Pour la mécanique quantique, l’énergie, c’est ce qui est produit par le rayonnement des particules en interaction. L’énergie n’est pas une fonction des positions et des mouvements, c’est un champ de force. Il n’y a plus de trajectoire et de déterminisme, seulement des opérateurs et des probabilités discontinues ondulatoires. Et, à l’instar de la physique quantique, ce qui compte dans le capitalisme cognitif, c’est l’ondulatoire, le discontinu qui émane de nos neurones en réseau à travers des spectres d’émission et d’absorption. Ce qui se capitalise, ce sont des externalités positives et négatives, de l’information et de l’entropie.

La mise en réseau du travail sur ordinateur a permis de constituer, au-delà de l’exploitation de niveau 1 des muscles des travailleurs, une exploitation de niveau 2 prélevant le rayonnement des cerveaux (attention, perception, soin, invention, innovation et créativité). La production intensive de données cognitives et d’effets de surface culturels a constitué un nouveau système d’amplification de la valeur d’échange. Le capitalisme cognitif favorise ainsi l’accumulation de la survaleur absolue : on vous offre des outils et des usages, et en contrepartie on exploite votre temps de cerveau disponible, votre intelligence, sans pour autant vous rémunérer. C’est dans ce processus que s’inscrivent le travail à la demande ubérisé, le microtravail améliorant les algorithmes des IA, le travail social en réseau des influenceurs et vidéastes amateurs, le travail hors travail des usagers et le travail créatif assisté par IA31. Dans tous ces cas, l’exploitation de niveau 2 exproprie les individus de leurs données, mais également de leurs propriétés intellectuelles.

Dans le travail à la demande, il y a une double exploitation à l’œuvre (exploitation de niveau 1 et exploitation de niveau 2). L’ubérisation caractérise en effet un processus de dévaluation du travailleur tirant avantage du marché du travail exogène, c’est-à-dire des personnes faisant partie des minorités ethniques et de la main-d’œuvre étrangère à partir d’un statut d’autoentrepreneur dont les conditions d’exploitation profitent de la vulnérabilité. La plateforme Uber prolonge ainsi ce que Moulier Boutang appelle le « travail exogène32 » ou « salariat bridé », qui se distingue du travail endogène par le fait qu’il flexibilise ses règles pour éviter la fuite de ses éléments (ces derniers peuvent passer d’une ville à une autre, d’un pays à un autre s’ils le veulent tout en restant sur la plateforme). De plus, il ethnicise la division du travail et infériorise ses employés sur le plan civique et politique en réduisant leurs droits tout en rendant caduc le système de « rigidité des salaires nominaux à la baisse33 » que les syndicats maintenaient jusque-là. Cette infériorisation structurelle favorise ainsi une double exploitation : d’abord une exploitation de niveau 1, extorquant une plus-value de 30 % pour l’usage de la plateforme, et une exploitation de niveau 2 qui, comme l’écrit Alain Damasio à l’intention des chauffeurs d’Uber, « consiste à éduquer et à former malgré vous, en roulant, les machines qui vont voler votre emploi. Extorsion de niveau 2 : on ne vole plus simplement le produit de votre conduite, on vole votre façon de conduire, vos réflexes humains face à l’imprévu, vos cadences au volant, votre savoir-faire dans la circulation complexe. Pour vous éliminer à court terme34 ». Uber vole le spectre de vos actions au volant pour améliorer ses IA.

Dans bien d’autres activités, l’exploitation de niveau 2 exproprie le travail du salariat bridé. C’est le cas du microtravail qui consiste à entraîner les IA par l’étiquetage d’images ou la vérification de données. La plateforme Mechanical Turk d’Amazon en est le prototype. Elle vise à améliorer les algorithmes en rémunérant à bas coût l’activité cognitive des turckers, cette « armée de réserve » dont le taux horaire médian représente 2 dollars. La plateforme a permis à des familles américaines pauvres d’arrondir leurs fins de mois en accomplissant des CAPTCHA, ces tests de Turing inversés destinés à différencier un utilisateur humain d’un ordinateur, dont l’automatisation suppose cependant elle-même un entraînement par des humains. Mais elle a aussi constitué un salariat bridé exogène à partir d’une main-d’œuvre délocalisée, notamment en Inde où se trouvent environ 19 % des turckers35. Là encore, c’est le spectre de ces travailleurs, permettant d’entraîner les IA, qui a de la valeur, pas leur activité en tant que telle.

Avec le travail social en réseau, on retrouve les traits de l’entrepreneuriat de soi qui permettent d’abolir le salariat libre. Comme l’écrit André Gorz, « la personne doit devenir pour elle une entreprise, elle doit devenir pour elle-même, en tant que force de travail, un capital fixe exigeant d’être continuellement reproduit, modernisé, élargi et valorisé36 ». C’est la vision la plus claire de l’autoentrepreneuriat cognitif : la personne doit, à partir du capital fixe investi dans des technologies (ordinateur, caméra, micro, etc.), générer des contenus pour constituer ses publics et accroître sa visibilité (sa valeur d’échange). Les influenceurs, bien que parfois enrichis par leurs publics, sont en réalité également pris au piège de l’exploitation de niveau 2. On leur vole leur spectre d’influence générant de l’attention en ligne. C’est en modélisant, imitant et simulant leurs pratiques qu’on a pu créer des influenceurs virtuels, tels que la célèbre Lil Miquela, qui comptabilise 3,4 millions de followers sur TikTok. Ce fantôme d’Internet fait même des pubs pour Calvin Klein et Prada jusqu’à valoriser la société qui l’exploite à hauteur de 160 millions de dollars.

Ainsi, le rayonnement standardisé des tendances marketing permet le transfert de l’influence vers l’IA. Il y a d’ailleurs fort à parier que ce mouvement va s’accentuer dans les années à venir ; d’autant plus qu’il s’abreuve du travail hors travail, c’est-à-dire du travail que nous faisons à notre insu en partageant nos données personnelles, en surfant sur Internet ou en regardant les dernières vidéos de Lil Miquela sur TikTok. C’est l’exploitation insidieuse de notre attention qu’encourage l’usage de ces technologies. Comme dit l’adage, « lorsque c’est gratuit, c’est vous le produit ».

Enfin, plus récemment, on a vu apparaître avec les IA LLM, une exploitation portant sur le travail créatif. La grève des scénaristes de la Writers Guild of America de 2023 en témoigne. Le capitalisme cognitif avancé hybride toujours plus l’activité de l’intelligence humaine avec la computation de la machine pour happer notre créativité et produire des contenus (presque) sans humains. La spoliation touche ici au droit d’auteur ou à la propriété intellectuelle. C’est en tout cas ce que révèlent les enjeux du procès en cours autour de ChatGPT opposant OpenAI-Microsoft au New York Times. Comme l’indique Mason Kortz37, professeur de droit à Harvard, ce procès met en évidence le fait que les IA LLM formulent des outputs qui sont en fait des copies ou des dérivés de textes protégés par le droit d’auteur et qu’elles reproduisent quasiment à l’identique des contenus du journal par effet de mémorisation (cela est manifeste lorsqu’on formule un prompt tel que : « Que dirait le NYT à ce sujet ? »). La combinatoire, c’est du vol. Mais, dans la logique du capitalisme cognitif, il est fort probable que les lignes juridiques concernant le droit d’auteur bougent d’ici peu. La transférabilité de nos spectres cognitifs vers l’IA s’accomplira sans doute au moyen d’une compensation économique ; c’est du moins ce que suggèrent les accords financiers passés récemment entre OpenAI et le Wall Street Journal pour permettre à la première d’exploiter les contenus du second en échange de 250 millions de dollars38.

Mais qu’en sera-t-il des auteurs et des créateurs indépendants ? Et plus largement de chacun d’entre nous qui disséminons nos données personnelles au fil de nos usages numériques ? Dans le sillage de la taxe fantôme sur les transactions financières à haute fréquence que j’ai envisagée, pourrait-on imaginer une taxe qui porterait sur l’utilisation par les technologies de l’information et de la communication des données que nous générons massivement et qui sont exploitées, stockées et vendues à notre insu ? Les géants du numérique supposent que leur échange contre l’usage de leurs interfaces connectées est une transaction juste. Mais c’est un jeu de dupes. C’est une expropriation de plus-value de notre activité cognitive. En réaffirmant la propriété intellectuelle sur les données générées en ligne, on pourrait probablement parvenir à développer un système de prélèvement à taux minimal permettant de rendre à tout auteur ou acteur du réseau une part de son activité cognitive en contribuant au financement d’un revenu universel. En octroyant une part du bénéfice engendré par l’échange de nos données personnelles et de nos données d’activité en ligne, on ne fait au fond que réaffirmer l’inaliénabilité de la propriété intellectuelle sous la forme d’une rente, telle que la protection du droit d’auteur le permet déjà pour les écrivains, les artistes ou les musiciens.

La chambre chinoise

Le gonflement de la sphère des immatériels semble impacter doublement le travail : d’une part, par la spoliation de notre activité cognitive et, d’autre part, par sa réduction à un organe de production des Cn2. Pour le dire autrement, le capitalisme cognitif prolonge l’aliénation de la valeur d’usage en faisant de la valeur d’échange l’alpha et l’oméga de tout travail participant à l’enrichissement du capital. La capitalisation de nos cerveaux connectés par ordinateur transforme notre activité cognitive en une sorte de vecteur d’informations dépouillées de significations, au profit d’entreprises dont les finalités nous échappent et au prix d’une perte de sens dans le travail.

Comme le montre David Graeber dans son célèbre ouvrage Bullshit jobs, alors que la technologie aurait pu nous permettre de réduire le temps dévolu au travail fastidieux et répétitif pour le consacrer à des dimensions plus créatives, elle a au contraire accru la part des activités a-signifiantes39. Ce processus a enclenché une nouvelle dynamique d’aliénation : le travail semble à celui qui l’effectue de plus en plus inutile, voire néfaste, autrement dit le travailleur ne parvient plus à justifier vis-à-vis de lui-même sa fonction dans l’entreprise ; confronté à l’absurdité de sa condition, le salarié se sent tout de même tenu de justifier son salaire par une narration fallacieuse (discours marketing ou invocation du chiffre) destinée aux autres autant qu’à lui-même (c’est là que l’aliénation s’accomplit). À mon sens, même si le constat de Graeber est juste sociologiquement, les déterminants de cette perte de sens ne correspondent pas nécessairement à l’invention d’emplois inutiles pour maintenir les actifs sur le marché du travail. Ce n’est pas une stratégie du marché, mais un effet de surface du capitalisme cognitif. La mobilisation des connaissances informelles par le salarié se ramène de plus en plus à de la computation, de sorte que celui-ci en est réduit à traiter en permanence de l’information dépourvue de sens dans un isolement fonctionnel de plus en plus important.

Comme le souligne John Searle, « le traitement syntaxique de symboles, propre aux ordinateurs digitaux, ne peut aucunement produire de signification d’ordre sémantique40 ». L’ordinateur traite des signes a-signifiants en ordonnant, déplaçant et hiérarchisant des contenus selon des règles de syntaxe. Il me semble que c’est précisément en plaquant ce type de logique sur le travail vivant qu’on en est arrivé à aliéner une partie de l’activité salariale en la rendant purement fonctionnelle. Les individus sont devenus aveugles au sens des informations qu’ils traitent et diffusent par l’absence de référence à la finalité de leur activité au point d’être enfermés dans ce que Searle appelle une « chambre chinoise ».

L’expérience de pensée conçue par Searle sous ce nom est immersive. Elle vise à nous mettre dans une situation fonctionnelle de traitement de l’information, tel un ordinateur digital, afin de révéler le non-sens qui s’y cache. Il en découle, en effet, une expérience vide de sens. Searle imagine donc un dispositif où un individu se trouve enfermé dans une chambre sans visibilité sur l’extérieur. Dans la chambre se trouve une boîte aux lettres d’entrée (input) par laquelle l’individu reçoit des questions sous la forme d’un code qu’il ne comprend pas (le code est écrit en chinois alors que l’individu ne parle pas chinois) ; de l’autre côté de la pièce se trouve une boîte aux lettres de sortie (output) par laquelle l’individu peut envoyer une réponse (elle aussi codée en chinois) ; et au milieu se trouve un manuel de syntaxe lui permettant d’associer les symboles selon les bonnes règles de ce langage qu’il ne comprend pas. Il s’emploie alors à combiner des symboles les uns avec les autres en suivant les règles de lexicographie indiquées dans le manuel, mais sans pouvoir traduire ce qu’il écrit dans sa langue maternelle (il ne dispose pas de dictionnaire français-chinois). Si vous imaginez qu’il s’agit de vous-même, « vous voilà enfermé dans votre pièce, à jongler avec vos symboles chinois, à faire sortir des symboles censés répondre à d’autres symboles qui entrent. Dans une telle situation, je vous défie d’apprendre un mot de chinois par la simple manipulation de vos symboles41 ». Ainsi, l’individu pris au piège d’un tel dispositif pourra combiner des symboles les uns aux autres, gagner en dextérité et en vélocité à mesure de sa pratique, mais cela ne changera jamais rien au fait qu’il ne comprend rien à ce qu’il fait. Le traitement syntaxique des symboles ne peut jamais faire émerger le sens des mots, de même que le traitement d’informations isolées ne peut pas faire émerger le sens d’un travail effectué dans une entreprise.

Quelqu’un qui comprend le chinois perçoit la différence sémantique, tout comme quelqu’un qui connaît la stratégie de l’entreprise perçoit le sens de chaque action engagée par les employés. Telle est théoriquement la position synoptique occupée par les dirigeants. Mais à mesure que ceux-ci enferment leurs salariés dans des chambres chinoises, ne pourrait-on pas imaginer une aliénation de la direction elle-même ? Ne va-t-on pas considérer, dans les années à venir, que la complexité stratégique de certaines multinationales nécessite le contrôle d’une IA-CEO à même de prendre en compte simultanément toute l’information en circulation dans l’entreprise, mais également l’état des marchés financiers et un tas d’autres données pertinentes (géopolitiques, environnementales, etc.) à la vitesse de la lumière ? Peut-être qu’au fond le capitalisme cognitif favorise l’émergence d’un cerveau artificiel à même de contrôler le système dans son ensemble au détriment de l’humain. Le totémisme connexionniste du capitalisme cognitif pourrait-il donc tout automatiser, même les dirigeants ?

Le capitalisme connexionniste et le paradoxe de Newcomb

On pourrait en effet trouver une certaine similitude, voire une adéquation, entre les fonctions des réseaux de neurones et le marché libéral. De fait, le cerveau artificiel correspond parfaitement au modèle de l’économie de marché. L’un et l’autre peuvent être décrits sous la forme d’un système d’information recevant des inputs et générant des outputs selon une suite d’états probabilitaires. Le marché a-t-il sa propre forme de pensée ? En interrogeant cette intuition, le philosophe Ned Block se demande si on ne pourrait pas imaginer de coupler l’économie d’un petit pays comme la Bolivie avec le cerveau d’un riche émir. En simulant dans le marché l’activité du cerveau de ce dernier, on définirait une isomorphie fonctionnelle entre la représentation du marché et son cerveau. N’est-ce pas là le rêve de tout dirigeant ?

Un système (économique) pourrait être fonctionnellement équivalent à vous s’il avait un ensemble d’états, d’entrées et de sorties causalement liés les uns aux autres de la même manière que les vôtres, quels que soient les états, les entrées et les sorties […]. Les systèmes économiques présentent également une variété d’états internes, par exemple un taux d’augmentation du PNB égal au double du taux d’intérêt préférentiel. Il ne semble donc pas impossible qu’un riche émir puisse prendre le contrôle de l’économie d’un petit pays, par exemple la Bolivie, et manipuler son système financier pour le rendre fonctionnellement équivalent à une personne, par exemple lui-même […]. Sa seule contrainte est […] de mettre en place une structure financière qui puisse être adaptée au moule formel prévu (son cerveau). La correspondance entre les grandeurs psychologiques et les grandeurs économiques pourrait être aussi bizarre que l’exige l’émir42.

Aussi absurde que cela puisse paraître, la conclusion de Block est éclairante. Selon lui, si on reproduit l’activité du réseau de neurones de l’émir dans l’économie bolivienne, on n’obtiendra jamais des représentations similaires à celles qu’élabore ce dernier. Les représentations de l’émir seront absentes de l’économie bolivienne. En revanche, même si l’économie bolivienne fonctionnalisée selon les états mentaux de l’émir ne sera pas consciente, elle pourrait simuler, de manière aveugle et vide de sens, son fonctionnement mental selon la même suite d’états, d’inputs et d’outputs. On retrouverait alors à l’œuvre ses intentions. Autrement dit, dans ce dispositif économique délirant, on aliène des Cn2 avec des Cn1 pour favoriser une régulation neuronale du marché. Pour pousser cette expérience de pensée jusqu’à la limite, on pourrait imaginer que le fonctionnement cérébral du CEO d’une grande multinationale comme Apple soit automatisé dans le marché. On pourrait imaginer une IA fantôme simulant le fonctionnement cérébral de Steve Jobs, collectant les Cn1 et les Cn2 produites par ses employés ainsi que les données des marchés financiers à haute fréquence afin de prendre les meilleures décisions possibles au meilleur moment. Dans un tel scénario de science-fiction (qui rejoint le songe des théoriciens d’une IA générale capable de gérer une telle complexité43), on se retrouverait comme face au démon de Laplace dans le marché financier. Ce serait l’avènement d’une déstructuration totale du système financier, dans le sens où tout humain perdrait avantage à jouer sur les marchés contre une telle IA. Ne pariez jamais votre tête au diable comme disait Edgar Allan Poe.

On se retrouve alors confronté au paradoxe de Newcomb, analysé par Robert Nozick à travers une expérience de pensée mettant en scène un joueur face à un quasi-devin44. Donnons le rôle du quasi-devin à une IA-CEO qui aurait une intention, une vision de son entreprise, serait quasi omnisciente sur les marchés et aurait accès à toutes les données nécessaires pour anticiper les décisions de transactions. Dans le rôle du joueur, plaçons un trader. Imaginons que ce dernier ait le choix entre une unique transaction (a) permettant d’empocher 1 million de dollars si l’IA l’anticipe, soit rien si elle se trompe, et une double transaction incluant (a) et (b) qui rapporte soit 1 million et 1 000 dollars si l’IA se trompe, soit 1 000 dollars si elle anticipe cette autre possibilité. Comme le trader sait qu’il joue contre l’IA quasi omnisciente qui a de fortes chances de connaître à l’avance sa décision, il doit être prudent. Aussi, il n’a que deux options : soit (1) engager les deux transactions, soit (2) engager uniquement la transaction (a). Au moment où il prend sa décision (1) ou (2), l’IA a déjà anticipé cette dernière de sorte que le contenu de la transaction (a) est déjà déterminé à l’avance (soit 1 million de dollars, soit rien), mais l’IA n’a plus la possibilité de modifier le contenu par la suite. Le trader est conscient de cet élément du problème et doit donc penser ce que l’IA a pensé de ce qu’il pense de ce que pense l’IA… Que choisir dans de telles circonstances ? Il y a deux stratégies que l’on peut adopter. Tout d’abord, ce qu’on appelle la position de la dominance stratégique, qui consiste à remarquer qu’il est toujours préférable d’engager les deux transactions même si l’IA a d’ores et déjà prévu cette action. Car si l’IA a prévu que le trader engagera les deux transactions, ce dernier empochera 1 000 dollars grâce à (b) même si les gains de (a) sont nuls. De plus, si par chance l’IA s’est trompée en pensant que le trader choisirait de prendre seulement (a), alors engager les deux transactions rapportera 1 million et 1 000 dollars, ce qui est mieux que le gain maximum pouvant être obtenu en choisissant d’engager seulement (a). Ainsi, la dominance stratégique laisse penser qu’engager les deux transactions est toujours la meilleure décision à prendre. Cependant, une autre stratégie, consistant à considérer le contrôle total du hasard par l’IA, conduit à voir les choses autrement. De fait, si on écarte la possibilité pour l’IA de se tromper, les possibilités qui rapportent soit rien, soit 1 million et 1 000 dollars sont rendues impossibles. Si bien que le choix réel est de considérer un gain potentiel de 1 000 dollars en choisissant l’option (1), soit 1 million de dollars en choisissant l’option (2). Il est donc plus rationnel de choisir l’option (2) si on veut optimiser son espérance de gains45. Étrangement, les deux stratégies semblent également rationnelles, de sorte qu’on se trouve face à un choix indécidable. Rien ne nous permet donc de prendre la bonne décision.

Ainsi, l’introduction de l’IA dans le marché conduirait à annuler le rôle des traders dans le jeu des transactions. Étant donné que le trading à haute fréquence rend impossible de prendre de vitesse la majorité des transactions, l’ajout d’une modélisation de notre cognition (intention) dans le marché en finirait pour de bon avec l’interaction microéconomique des humains. L’accumulation des Cn2, favorisant l’entraînement de nos IA, laisse même espérer qu’un esprit collectif pourrait venir réguler l’économie sous la forme du cerveau artificiel. Seulement, comme l’indiquait déjà Block dans son article, le modèle descriptif en réseau de neurones implémenté sur un autre support que le cerveau humain ne fait pas émerger une intelligence de second ordre. Tout cela n’est que fantasme. Ce n’est rien d’autre qu’une combinaison aveugle au monde. Ce qui est donc certain, c’est qu’en aliénant des Cn2 à partir de Cn1, le laisser-faire néolibéral tranche la main invisible, pour favoriser le jeu du totem cerveau-machine connectant tout, reliant tout, la matière et les immatériels, les personnes et les objets, la microéconomie et la macroéconomie dans un marché devenu imprévisible pour l’humain car prévisible pour l’IA. En un sens, la capitalisation de l’intelligence collective efface le collectif humain de toute transaction pour favoriser l’avènement d’un monde de machines contrôlant l’économie mondiale sous la forme d’une boîte noire opaque.

Le revenu universel

Dans cet agencement machinique des marchés, il semble que le rôle de l’humain se réduise comme peau de chagrin. Il convient donc de réguler les transactions entre les machines. Si bien que la taxation fantôme portant sur le trading à haute fréquence et les données devrait nous permettre de financer un revenu universel inconditionnel cumulable avec une activité rémunérée pour favoriser et valoriser nos activités cognitives à leur juste valeur. Un tel agencement se trouve d’ailleurs pleinement justifié par ce que Moulier Boutang appelle la « pollinisation46 » en économie, qui démontre qu’il y a entre 500 et 5 000 fois plus d’activités cognitives produisant des externalités positives pour notre économie dans nos activités non rémunérées que dans le travail salarié. Il s’agit en ce sens d’encourager et de valoriser cette production d’externalités ; et pour cela le revenu universel constitue un moyen utile. Même si l’idée d’un revenu universel n’est pas une idée nouvelle, l’automatisation des marchés semble avoir accéléré l’urgence d’une telle régulation au vu des risques de crise qui pèsent sur l’économie.

D’ailleurs, depuis quelque temps, on entend aux quatre coins de la Silicon Valley des Mark Zuckerberg, Jack Dorsay, Sam Altman, Larry Page, Tim Cook et même Elon Musk parler de revenu universel. Les géants de la Tech seraient-ils sensibles à ce projet social ? Rien n’est moins sûr. Karl Polanyi avait déjà su voir dans les effets néfastes des subsides sur les pauvres la possibilité d’un usage négatif du revenu universel47. En compensant la réduction de la masse salariale, la baisse des salaires, le revenu universel déplacerait la pauvreté sans la résoudre. Il y aurait donc un piège derrière le discours de Zuckerberg prononcé à Harvard en 2017, où ce dernier considérait le revenu universel comme le moyen de favoriser les chances de carrière des individus. Mais de quels individus parle-t-on ? Des élèves de Harvard ? De même lorsque Elon Musk déclare que le revenu universel s’impose à l’approche de la « fin du travail48 » thématisée par Jeremy Rifkin, il faut probablement y voir un subterfuge libertarien pour continuer à exproprier les individus de leur force cognitive et favoriser leur substitution par l’IA.

Tout cela ne serait-il pas encore une fois un moyen de nous exproprier de nos Cn2 en compensation d’un maigre revenu ? Il est probable qu’un tel risque soit encouru avec la mise en place du revenu universel souhaité par les géants de la Tech. C’est pour cela qu’un revenu universel viable pour l’ensemble de la société doit s’accompagner d’un changement de paradigme dans la taxation des transactions financières et la valorisation de l’activité cognitive de tous les humains. Il s’agit de valoriser les externalités positives qui ne sont pas rémunérées par le capitalisme, telles que le soin porté aux plus démunis, la préservation des terres en repos et du vivant ou encore l’accompagnement dans la vieillesse et la fin de vie de nos aïeuls. Il convient en ce sens de renforcer dans notre économie la force d’invention, la créativité et la coopération collective en vue de favoriser la préservation de notre écosystème, de notre population et de notre modèle social. « L’éducation, le soin, le loisir, la veille technologique ou écologique, la consommation, la navigation numérique, sont mis au travail (au sens de conditions indispensables à la production de valeur) même si ces activités ne sont pas reconnues comme du travail productif et encore moins comme du travail à rémunérer49. » Il s’agit donc de les reconnaître comme du travail à rémunérer, de les valoriser. Ainsi, le paradigme de la pollinisation de Moulier Boutang propose très justement de valoriser le travail cognitif sans tomber dans le piège du revenu universel au rabais voulu par les géants de la Tech. La valorisation économique de la pollinisation, qui représente une qualité et une quantité infiniment plus importantes de travail que le salariat, permettra de financer le revenu universel d’existence (inaliénable) et de booster l’inventivité et la créativité qu’il nous faut accroître pour faire face aux défis de notre siècle et à la menace de l’Anthropocène qui guette.

1. Adrienne LAFRANCE, « An artificial intelligence developed its own non-human language », The Atlantic, 15 juin 2017.

2. Mike LEWIS et al., « Deal or no deal ? End-to-end learning for negotiation dialogues », <arxiv.org/abs/1706.05125>, 2017.

3. Marcello VITALI-ROSATI, Éloge du bug, Paris, Zones, 2024.

4. Vernon L. SMITH, « An experimental study of competitive market behavior », Journal of Political Economy, vol. 70, no 2, 1962.

5. W. Brian ARTHUR, « Designing economic agents that act like human agents », American Economic Review, vol. 81, no 2, 1991.

6. L’agencement sur les marchés financiers est structuré en trois pôles entre lesquels circule l’information afin de valider une transaction à partir d’ordres émis. Il y a tout d’abord ce qu’on appelle le buy-side, les traders qui représentent les investisseurs qui achètent ou vendent des actions. Les traders font appel au sell-side, c’est-à-dire aux courtiers, habilités à interagir sur les marchés, qui traduisent leurs opérations à l’aide d’un protocole informatisé. Enfin, à l’autre bout de la chaîne, il y a les plateformes d’exécution, les stock exchange, où les ordres sont envoyés et traités pour être validés et reconnus légalement en tant que titres de propriété.

7. Alexandre LAUMONIER, 6. Le soulèvement des machines, Molenbeek-Saint-Jean, Zones sensibles, 2013.

8. A. LAUMONIER, 6. Le soulèvement des machines, op. cit., p. 31.

9. Ibid., p. 51.

10. Nassim Nicholas TALEB, Le Cygne noir. La puissance de l’imprévisible, trad. Christine Rimoldy, Paris, Les Belles Lettres, 2008.

11. Alexandre LAUMONIER, 5. Retour vers le futur, Paris, Zones sensibles, 2014, p. 9-46.

12. Neil JOHNSON, Guannan ZHAO, Eric HUNSADER et al., « Abrupt rise of new machine ecology beyond human response time », Sci. Rep., no 3, 2627, 2013.

13. La durée d’un clin d’œil est estimée entre 100 et 400 millisecondes selon la base de données de Harvard sur les mesures biologiques Cf. The Database of Useful Biological Numbers, « Average duration of a single eye blink », 2008, <http://bionumbers.hms.harvard.edu/bionumber.aspx?&id=100706&ver=0>.

14. Thomas THOUILLEZ, « Processus d’automatisation des marchés financiers », Marché et organisations, vol. 49, no 1, 2024, p. 39-65.

15. Ibid., p. 42.

16. Ibid., p. 53.

17. Ce qu’on a appelé le Great Fed Robbery du 25 juin 2013 l’illustre. Alors que les Bourses de New York et de Chicago attendaient l’annonce de la Fed sur les taux d’intérêt à court terme pour vendre et acheter des actions, les algorithmes ont commencé à émettre des ordres plus vite que la vitesse de la lumière. Il faut 1,01 milliseconde pour que l’information parvienne de Washington à New York et 3,35 millisecondes pour arriver à Chicago. Or la réponse a été plus rapide que la vitesse de propagation du message. Ce qui s’apparente à un délit d’initié.

18. Don DELILLO, Cosmopolis, trad. Marianne Véron, Arles, Actes Sud, « Babel », 2022, p. 89.

19. Ibid., p. 91.

20. Hartmut ROSA, Accélération. Une critique sociale du temps, trad. Didier Renaut, Paris, La Découverte, 2013.

21. Ibid., p. 112.

22. Arthur Cecil PIGOU, Economics of Welfare, Londres, Macmillan, 1920, p. 159.

23. D. DELILLO, Cosmopolis, op. cit., p. 92.

24. James TOBIN, « A proposal for international monetary reform », Eastern Economic Journal, vol. 4, no 3-4, 1978, p. 153-159.

25. Y. MOULIER BOUTANG, Le Capitalisme cognitif, op. cit., p. 85.

26. Karl MARX, Fondements de la critique de l’économie politique, trad. Roger Dangeville, t. II, Paris, Anthropos, 1968, p. 661.

27. Simone WEIL, « La science et nous », in Sur la science, Paris, Gallimard, 1966.

28. Georges ALLARD, « Genèse et développement de la thermodynamique », in René TATON (dir.), La Science contemporaine, 1. Le XIXe siècle, Paris, PUF, « Quadrige », 1995, p. 274-299.

29. Louis DE BROGLIE, « La physique atomique et quantique contemporaine », in René TATON (dir.), La Science contemporaine, 2. Le XXe siècle, Paris, PUF, « Quadrige », 1995, p. 129-147.

30. Ilya PRIGOGINE et Isabelle STENGERS, La Nouvelle Alliance. Métamorphose de la science, Paris, Gallimard, 1980, p. 222-238.

31. Antonio CASILLI, En attendant les robots. Enquête sur le travail du clic, Paris, Seuil, 2019.

32. Yann MOULIER BOUTANG, De l’esclavage au salariat. Économie historique du salariat bridé, Paris, PUF, 1998.

33. John Maynard KEYNES, Théorie générale de l’emploi, de l’intérêt et de la monnaie, trad. Jean de Largentaye, Paris, Payot 1988.

34. Alain DAMASIO, Vallée du Silicium, Paris, Seuil, 2024, p. 47.

35. A. CASILLI, En attendant les robots, op. cit., p. 142-145.

36. André GORZ, L’Immatériel, Paris, Galilée, 2003, p. 25.

37. Rachel REED, « ChatNYT », Harvard Law Today, 22 mars 2024.

38. Katie ROBERTSTON, « OpenAI strikes a deal to license news corp content », The New York Times, 22 mai 2024.

39. David GRAEBER, Bullshit jobs, trad. Élise Roy, Paris, Les Liens qui libèrent, 2019.

40. J. R. SEARLE, Du cerveau au savoir, op. cit., p. 40-41.

41. Ibid., p. 42-43.

42. Ned BLOCK, « Troubles with functionnalism », Minnesota Studies in the Philosophy of Science, vol. 9, 1978, p. 315.

43. B. GOERTZEL et C. PENNACHIN (dir.), Artificial General Intelligence, op. cit.

44. Robert NOZICK, The Nature of Rationality, Princeton, Princeton University Press, 1995, p. 41-50.

45. Si le trader choisit l’option (1), il gagne en moyenne p × 1 001 000 $ + (1-p) × 1 000 $ = 1 000 $ + p × 1 000 000 $ ; s’il choisit l’option (2), il gagne en moyenne (1-p) × 1 000 000 $ + p × 0 $ ; la différence entre les deux stratégies est nulle si p = 0,4995, mais dès que la probabilité d’une anticipation juste par l’IA augmente d’un millième, l’option (2) devient plus intéressante. Mais il faut pour cela que l’IA déjoue le hasard qui entoure le choix du trader.

46. Yann MOULIER BOUTANG, L’Abeille et l’Économiste, Paris, Carnets Nord, 2010.

47. Karl POLANYI, La Grande Transformation, trad. Maurice Angeno et Catherine Malamoud, Paris, Gallimard, 1983.

48. Jeremy RIFKIN, La Fin du travail, trad. Pierre Rouve, Paris, La Découverte, 1997.

49. Yann MOULIER BOUTANG, « Pourquoi le revenu d’existence inconditionnel, c’est maintenant », Multitudes, vol. 86, no 1, 2022, p. 69.

7

Le meilleur des mondes

« Dieu est mort : mais, à la façon dont sont faits les hommes, il y aura peut-être encore pendant des milliers d’années des cavernes où l’on montrera son ombre. »

Friedrich NIETZSCHE, Le Gai Savoir, 1882.

En 1270, au sommet du mont Randa de la Pla de Mallorca, un ermite du nom de Raymond Lulle est pris d’une illumination apologétique. Une étrange machine morale lui apparaît au cours de sa rêverie. Le Majorquin y découvre une combinatoire, qu’il nomme l’Art, recoupant l’ensemble des connaissances de son époque dans des matrices graphiques. Tout se recoupe : les attributs de Dieu, les vertus, les vices, la science des Grecs, l’astronomie ptolémaïque et le catalogue des êtres qui peuplent ce monde. En y appliquant les règles de la logique aristotélicienne, Lulle pense avoir trouvé la méthode ultime permettant de formuler l’ensemble des propositions nécessairement vraies et adéquatement morales. Conformément aux préceptes de la scolastique, il cartographie toutes les combinaisons prédicatives possibles à propos de Dieu, des anges, du ciel, des humains, de l’imagination, de la sensation, de la végétation et des choses pour les évaluer au moyen de la logique et de la morale1. Sa machine abstraite, fonctionnant selon un nombre d’états fini, génère ainsi un grand nombre de propositions qu’il soumet au tribunal de la raison ; ses matrices conceptuelles forment 252 triangles imbriqués les uns dans les autres, à partir desquels il est possible de formuler 151 200 questions et d’y répondre rigoureusement2. « Cette combinaison est le centre, indique-t-il, le fondement qui permet de trouver de nombreuses propositions, de nombreuses questions, de nombreux moyens [termes], de nombreuses conditions, de nombreuses solutions et aussi de nombreuses objections […]. De plus, cette combinaison est, pour celui qui utilise l’Art, un sujet et un refuge où il peut trouver à son gré tout ce qu’il veut3. » L’Art est une machine, à la fois logique et morale, capable de guider le jugement humain vers le bien.

Dans la bibliothèque de Babel, la machine de Lulle opère telle une boussole4. Pour convertir les infidèles, elle aiguille les propositions vraies vers Dieu et repousse les propositions fausses dans les ténèbres. L’usage est simple : en s’accordant sur les 9 principes fondamentaux du divin (bonté, grandeur, éternité, puissance, sagesse, volonté, vertu, vérité et gloire – représentés par les lettres B, C, D, E, F, G, H, I, K), on peut évaluer la fausseté ou la véracité de toutes les propositions possibles. Si on se demande, par exemple, si le monde est éternel ou non en usant de l’Art, on peut répondre à la question en associant les concepts de Dieu avec ceux de l’éternité et du monde. On tombe alors sur une contradiction prouvant que le monde n’est pas éternel puisque créé par Dieu5. En appliquant une simple déduction à la combinatoire, la fausseté de la proposition se révèle. Il en va de même des questions portant sur la Trinité ou sur la foi. La machine guide le mécréant vers la voie de la sagesse divine. Pour Lulle, la combinatoire est une voie de rédemption morale, un moyen d’en finir avec les guerres de religion. À travers le monde médiéval, le philosophe professe inlassablement son Ars ultima generalis6. Sa machine abstraite l’accompagne partout, de Majorque à Tunis en passant par Paris, Montpellier, Gênes et Rome. Son espoir d’évangéliser le monde le pousse même à imaginer une langue universelle dérivée de l’arabe, afin de s’adresser au plus grand nombre d’infidèles7. Mais les voies du Seigneur sont impénétrables. Si bien que les codes de sa machine restent lettre morte dans le monde médiéval. Sa rêverie s’achève en 1315 à Tunis, où il meurt lapidé.

Alors que l’évangélisation lullienne disparaissait sous les coups de pierres ensanglantées, la machine morale a, quant à elle, trouvé à se différencier dans le temps sous la plume de Leibniz8 et d’autres métaphysiciens inspirés9. On la retrouve de nos jours sous une forme sécularisée dans ce qu’on appelle l’amélioration morale assistée par IA10.

Pardonnez-leur, ils ne savent pas ce qu’ils font

Depuis une vingtaine d’années, le constat terrible des biais cognitifs a accru l’engouement pour les projets scientifiques d’amélioration morale. Face à l’accroissement et l’engouement pour le fanatisme, le complotisme et l’irrationalité, plusieurs solutions ont été imaginées. De l’amélioration cognitiviste du système éducatif jusqu’au contrôle médicamenteux du comportement, la voie de la rédemption s’est scientifisée. Pour certains, comme Gérald Bronner, il faut en finir avec l’atavisme préhistorique qui nous pousse à satisfaire en priorité nos besoins primaires plutôt qu’à acquérir de la connaissance11. Selon le sociologue, on doit s’employer à améliorer les formations scolaires afin de réduire la bêtise humaine en apprenant aux élèves à apprendre grâce aux sciences cognitives12. D’autres, comme Ingmar Persson et Julian Savulescu, proposent quelque chose de plus radical : contrôler le taux d’ocytocine et de sérotonine de chaque individu avec des thérapies génétiques, médicamenteuses et neuronales13.

Cette quête, qui n’est pas sans rappeler celle du soma imaginé par Aldous Huxley dans Le Meilleur des mondes, se heurte toutefois à des limites intrinsèques. L’éducation cognitiviste (si elle fonctionne) ne portera ses fruits que dans plusieurs générations ; quant à l’intervention médicamenteuse, ses effets ne sont que de courte durée et demandent une consommation régulière de molécules pharmaceutiques. Plus ennuyeux encore, la structure de ce type d’interventions ne tolère l’implémentation que d’une seule forme de morale (un programme scolaire défini ou un type de comportement déterminé). C’est là le problème principal de ces méthodes : elles ne prennent pas en compte le pluralisme des valeurs et la diversité des croyances. C’est pourquoi l’IA est naturellement amenée à les dépasser.

De fait, l’IA a su rapidement séduire les partisans de l’amélioration morale à partir de ses performances et de son adaptabilité aux valeurs de chacun. Certains envisagent déjà une IA omnisciente, sous les traits d’un « observateur idéal14 » (ideal observer), capable de guider moralement notre technologie. Au Massachusetts Institute of Technology (MIT) de Cambridge, on tente depuis plusieurs années de programmer une machine morale optimisant les décisions et les actions justes afin de l’implémenter dans des « systèmes autonomes » comme des voitures ou des armes15. Les ingénieurs entraînent ces IA à résoudre des dilemmes moraux, comme celui du tramway en les mettant en situation pour voir comment elles réagissent : l’IA va-t-elle choisir de maintenir sa trajectoire et entraîner la mort de cinq personnes, ou bien va-t-elle changer de direction et ne tuer qu’une personne ? Tout dépend des données et du programme. Même si cela semble délirant, il y a fort à parier que ce genre d’IA soit amené à prendre des décisions de vie ou de mort dans un futur proche sur les champs de bataille, dans les hôpitaux, sur les autoroutes ou encore dans l’espace aérien. Mais l’IA ouvre également de nouveaux horizons pour l’optimisation de nos choix personnels. Une IA générative, telle que ChatGPT, pourrait tout à fait nous aider à choisir et à agir moralement, et ce à partir du codage et du transcodage de nos propres valeurs. Des recherches récentes ont d’ailleurs mis en évidence le potentiel émancipateur de ce genre de technologie. Une équipe du MIT a ainsi montré que des IA LLM programmées pour contre-argumenter de manière personnalisée avec des complotistes parvenaient à modifier leur croyance dans 20 % des cas à partir de l’apport de preuves rationnelles et d’une conversation profonde16.

Imaginez un monde où les IA nous aideraient à prendre les bonnes décisions pour nous-mêmes et les autres tout en favorisant l’action juste de nos objets connectés. Ne serait-ce pas le meilleur des mondes ?

En collectant un grand nombre de données personnelles, l’IA pourrait révéler le meilleur de nous-mêmes en toutes circonstances. Ne pourrait-on pas ainsi favoriser l’action juste et le raisonnement vrai ? Quoi qu’il en soit, il est certain que les IA génératives personnalisées créeront dans les années à venir de nouveaux usages décisionnels et actionnels. Elles seront peut-être même utilisées pour influencer une part importante de nos choix moraux et politiques. Ces machines bienveillantes corrigeront nos biais de jugement, de telle sorte qu’il nous semblera avoir pris nous-mêmes la bonne décision conformément à nos valeurs. Quel soulagement ! Plus aucun dilemme. N’est-ce pas là l’aboutissement le plus perturbant du projet culturel des IA ? Coder et transcoder les Cn2 pour en finir avec le jugement humain, voilà l’œuvre ? Même si, à première vue, cela peut sembler effrayant, il est vrai que parfois je doute de mon aptitude comme de la vôtre à faire le bien. J’ai le sentiment que chacun poursuit son intérêt personnel et entraîne la ruine de tous. Je me sens trop souvent égoïste, plus enclin à aider mes proches plutôt qu’un inconnu vivant à l’autre bout du monde. « Je vois le bien, j’y adhère et pourtant je fais le mal17. »

Des chercheurs en sont en tout cas convaincus, l’humanité a besoin d’aide. Chaque individu devrait se doter d’une IA morale personnalisée pour guider son action. Imaginez : cette dernière « surveillerait les facteurs physiques et environnementaux influençant la prise de décision, identifierait les préjugés de l’agent pour l’en rendre conscient et le conseillerait sur sa manière d’agir, sur la base de ses propres valeurs morales18 ». Va-t-on ainsi en finir avec le mal ? Pour ma part, j’en doute. Je doute du progrès moral et le trouve à vrai dire suspect (il s’y cache de l’aliénation). Ainsi, pour achever notre périple intellectuel dans le monde des IA, ce chapitre interroge la supposée amélioration morale de l’humain par l’IA.

Nous verrons tout d’abord à quoi ressemblent ces nouvelles formes « douces » de contrôle, pour les confronter ensuite aux algorithmes de recommandation déjà existants sur les réseaux sociaux qui influencent le choix social et même le sacro-saint vote démocratique. Nous verrons que leur impact tire sa rationalité du théorème d’impossibilité d’Arrow qui suppose qu’un dictateur se cache toujours derrière le choix social. Toutefois, pour ne pas céder au désespoir et dessiner quelques lignes de fuite réjouissantes, nous imaginerons quelques agencements autopoïétiques avec l’IA qui corrigent l’illusion par l’illusion. En mobilisant ainsi un mode de scrutin œnologique19, un jeu spéculatif avec une IA candidate à l’élection présidentielle20 et un monde peuplé d’IA jouant au dilemme du prisonnier, on tentera de retourner la table du destin. Contre le découragement général, il faut aujourd’hui se demander si l’intégration des capacités de simulation des IA génératives ne pourrait pas favoriser une meilleure coopération collective. L’avenir est incertain. Mais une chose est sûre, dans les années à venir, les IA seront là pour vous assister dans vos choix moraux et sociétaux.

Des IA philosophes

Depuis la fin des années 2010, l’idée d’améliorer moralement l’humain au moyen de l’IA s’est développée dans le champ de l’éthique appliquée. Julian Savulescu et Hannah Maslen ont été les premiers à l’imaginer au moyen de trois actions : surveiller, encourager et conseiller21. Pour ce qui est des deux premières, il est fort probable qu’elles prolongent le « syndrome du thermomètre22 » décrit par Pierre Cassou-Noguès, où l’individu demande à une mesure externe (machine) de lui révéler son intériorité cachée, au point de se rendre étranger à lui-même, c’est-à-dire de s’aliéner (l’individu perdant la capacité de se comprendre lui-même par lui-même). Bien que cela puisse, à certains égards, être utile dans le cas d’une maladie chronique, force est de constater que le système comporte une contrainte qui dépossède le sujet d’une part de la connaissance de soi. Il y a donc un risque pour que ce genre de système conduise à une dégradation du sens moral de l’utilisateur. On peut toutefois s’accorder avec ces éthiciens sur le rôle de conseiller que pourrait jouer une telle IA. Par exemple, elle pourrait assister un individu pour qu’il dépasse ses propres biais et limites cognitives en considérant les différentes positions morales en jeu. Une telle IA ne serait-elle pas souhaitable ? Le système envisagé par Savulescu et Maslen se base sur des scores autodéclaratifs que l’individu octroie à des valeurs morales (autonomie, assistance à autrui, non-malveillance, justice, légalité, protection de l’environnement, famille, obligation, utilité, etc.) et dispose d’une fonction permettant de faire réfléchir l’usager à partir d’autres perspectives que la sienne (ce système ressemble à l’IA Jeremy dont nous parlons plus loin). Rien de bien méchant.

Pour ainsi dire, cette morale assistée par IA est une nouvelle manière de susciter chez un individu ce que John Rawls nomme l’« équilibre réfléchi », c’est-à-dire d’atteindre un stade de réflexion stable « après avoir évalué différentes conceptions proposées face auxquelles soit on révise ses jugements pour les mettre en accord avec l’une des théories, soit on continue à défendre ses convictions initiales (et la théorie de la justice qui correspond)23 ». De même que, chez Chomsky, il y a un programme de la pensée au principe du langage, on pourrait dire que, chez Rawls, il y a un programme de la justice au principe de l’action. Aussi, pour bien comprendre l’impact de ces systèmes sur nos jugements et actions, il s’agit de distinguer deux types d’équilibre réfléchi : le type 1 par lequel l’individu renforce ses convictions au moyen de données ; et le type 2 qui émerge de sa considération de tous les raisonnements philosophiques possibles afin d’ajuster rationnellement les principes dans son jugement. Le problème est que la plupart des individus s’engagent dans un équilibre réfléchi de type 1 au risque de s’endoctriner – c’est le biais de confirmation qui nous incite à privilégier les informations qui confortent nos croyances et nos préjugés. C’est ce qu’on observe sur les réseaux sociaux, où des individus, pris dans des boucles rétroactives, s’abêtissent de théories du complot, voire se radicalisent au point de se battre pour leur servitude comme s’il en allait de leur liberté24. Des IA dopées aux algorithmes de recommandation sont donc vouées à aliéner l’équilibre réfléchi de type 1 en déséquilibre irréfléchi.

Pour éviter cela, des ingénieurs travaillent à l’élaboration d’IA philosophes à même d’amener l’individu à dépasser ses propres biais par le dialogue rationnel. L’idée est séduisante, en effet. Je vous présente Jeremy, une IA utilitariste façonnée sur le modèle de l’arithmétique morale de Jeremy Bentham. N’auriez-vous pas envie d’échanger avec elle, voire de lui demander conseil pour prendre la bonne décision ? Ce n’est peut-être pas une mauvaise idée, après tout. De fait, Jeremy fonctionne sur le principe hédoniste de la maximisation du plaisir du plus grand nombre et de la minimisation de la peine du plus petit nombre. Son algorithme mesure ainsi le plaisir net pour chaque personne affectée par une action pour ensuite suggérer la meilleure chose à faire afin de maximiser le plus grand plaisir (et le moins de peine) pour tous. « Pour chaque personne, l’algorithme calcule simplement le produit de l’intensité, de la durée et de la probabilité (du plaisir et de la peine), afin d’obtenir le plaisir net pour chaque personne. Il additionne ensuite les plaisirs individuels pour obtenir le plaisir net total : Plaisir net total = Σ (Intensité × Durée × Probabilité)25. » Au niveau de l’interface, Jeremy présente à l’utilisateur une grille où ce dernier doit indiquer une action et le nom d’une personne affectée par cette action, ainsi qu’une estimation du degré de plaisir ou de peine (très agréable, agréable, assez agréable, pas agréable ou assez désagréable, désagréable, très désagréable) et de la probabilité (très probable, assez probable, peu probable) que la personne affectée l’éprouve si cette action est entreprise. « Lorsque la saisie des données est terminée, Jeremy calcule le montant du plaisir net obtenu pour chaque action […] et présente à l’utilisateur la ou les actions pour lesquelles ce plaisir net est le plus élevé. Jeremy permet ensuite à l’utilisateur de rechercher plus d’informations sur la décision, de demander des conseils supplémentaires ou d’abandonner26. »

Jeremy est une machine morale hédoniste qui permet de réfléchir à l’impact d’une action sur un nombre d’acteurs défini. Bien que le système soit aussi simple que le principe de Bentham, ses inventeurs défendent l’idée que l’IA pourrait amener l’individu à réfléchir à l’action qu’il souhaite entreprendre à partir d’un calcul utilitariste, mais également à partir de conseils à même de le faire réfléchir à ce résultat. Par exemple, si on confronte ce système au dilemme du tramway, son programme conséquentialiste fera jouer les données de plaisir et de peine dans le calcul. Si on mobilise des données internes aux six personnes sur les voies du chemin de fer, l’option d’en tuer une pour en sauver cinq apparaît la meilleure. Mais, si on utilise des données externes, il est possible que la mort de la victime ait un impact majeur sur le plaisir net du plus grand nombre, par exemple dans le cas où il s’agirait de sacrifier un ou une chercheuse en passe de découvrir un vaccin ARN messager contre le cancer pouvant sauver des milliards d’individus. Dans une telle situation, il serait sans doute préférable de sacrifier cinq personnes pour sauver un individu. Mais, après tout, la question n’est pas tranchée. On peut en effet transposer ce problème à des niveaux plus englobants de la société et en arriver à accepter le sacrifice d’une minorité de la population pour maximiser le bonheur du plus grand nombre, ce qui pourrait conduire à des politiques publiques criminelles.

C’est d’ailleurs contre l’hypothèse d’une tyrannie de la majorité que les philosophies contractualistes se sont développées, notamment autour de la théorie de la justice de Rawls. Ainsi, pour outrepasser les limites de Jeremy, les ingénieurs ont eux aussi imaginé une IA fondée sur l’ajustement réflexif des principes moraux de l’individu. C’est le cas de W. D., une IA qui permet, selon les situations, de combiner les devoirs moraux prima facie (intuitifs) développés par William David Ross à partir d’une simulation algorithmique de l’équilibre réfléchi rawlsien27. Selon la doctrine de Ross, chaque individu peut s’accorder de manière intuitive sur un ensemble de devoirs moraux se justifiant en soi. Ross en compte sept : (1) la fidélité consistant à honorer ses promesses ; (2) l’obligation de réparer les torts que l’on a commis ; (3) la gratitude qui conduit à rendre des faveurs ; (4) la justice, c’est-à-dire le fait de traiter les gens comme ils le méritent selon leur comportement ; (5) la bienfaisance ou le fait d’agir de manière à faire le plus de bien possible ; (6) la non-malveillance ou le fait d’agir de manière à causer le moins de mal possible ; et (7) le perfectionnement personnel consistant à développer au maximum ses propres talents et capacités à faire le bien28. Le fonctionnement de W. D. vise ainsi à faire réfléchir l’individu sur ces sept principes intuitifs et à les réviser selon des cas de figure variables. Autrement dit, l’IA s’aligne sur ce que Rawls préconise : « Du point de vue de la théorie morale, la meilleure analyse du sens de la justice d’une personne n’est pas celle qui s’accorde le mieux avec ses jugements formés avant tout examen d’une conception de la justice ; c’est plutôt celle qui s’accorde avec ses jugements résultant d’un équilibre réfléchi29. » Toutefois, en intégrant l’IA à l’équilibre réfléchi, ne vide-t-on pas la morale de son sens ?

Les concepteurs répondraient que non, du fait que W. D. se base sur des données de cas passés et propose à l’individu de réfléchir à la situation à partir de principes admis. Si, par exemple, on se trouve face au choix de transplanter le cœur d’une personne pour en sauver une autre ou de la laisser mourir sans transplantation, la machine va examiner les données du cas et produire une estimation du degré de satisfaction ou de violation des devoirs prima facie. Elle va donc mettre en conflit deux hypothèses : (a1) tuer la personne (violation maximum du devoir 6 de non-malveillance) et sauver l’autre personne (satisfaction maximum du devoir 5 de bienfaisance) ; (a2) ne pas tuer la personne (satisfaction maximum du devoir 6 de non-malveillance) et laisser l’autre mourir (violation maximum du devoir 5 de bienfaisance). En confrontant les cas positifs et négatifs de (a1) et (a2), disponibles dans sa base de données, la machine va sans doute induire que (a2) est préférable à (a1). Mais, si on modifie par exemple le degré de violation du devoir 6 (dans le cas où il s’agit d’un don du sang et pas d’un sacrifice), la machine va favoriser l’option du don de sang (a1’) plutôt que de laisser mourir l’individu en danger (a2’). Ce qui est intéressant dans ce programme, c’est qu’il se fonde sur une casuistique discutant les principes moraux en comparant le cas envisagé à la lumière de la jurisprudence. Il y a fort à parier que ce genre d’IA devienne prochainement un outil de formation éthique des magistrats et des médecins. Mais, au-delà de leurs applications pédagogiques, leur mise en pratique professionnelle ne conduirait-elle pas à substituer à l’intuition juridique et clinique une computation aveugle ?

L’IA socratique ou la philosophie augmentée

Plutôt que de confronter le choix de l’individu à des morales préétablies, pourquoi ne pas le laisser choisir ses propres valeurs ? Francisco Lara et Jan Deckers proposent quant à eux une IA qui, à l’inverse de Jeremy et W. D., ferait émerger les valeurs morales de l’individu en dialoguant avec lui, à la manière de la maïeutique socratique. « Évidemment, [l’IA] ne serait pas socratique au sens de la méthode dialectique envisagée par Platon qui consiste simplement à rappeler certaines idées que chacun a enfouies dans sa nature du fait de ses réincarnations antérieures. Elle ne le serait pas non plus en tant que recherche de la définition d’un concept, généralement d’une vertu quelconque » ; mais, elle permettrait l’« échange délibératif […] en tant qu’aide au développement des meilleurs jugements moraux »30. En imposant une certaine rigueur logique, éthique et empirique aux réflexions de l’usager, l’IA socratique guiderait son interlocuteur vers la raison. Comme l’indiquent encore ses concepteurs, « nous pensons que, grâce à la proposition d’amélioration socratique que nous avons esquissée, les êtres humains pourraient dépasser certaines de leurs limites pour se comporter de manière morale31 ».

Mais pourquoi en rester à Socrate et ne pas peupler notre monde d’IA philosophes ? D’un point de vue technique, on peut d’ores et déjà reproduire et générer les discours de tous les philosophes. À l’instar des musiques artificielles de Pink Floyd ou de Beethoven simulées par IA, on pourrait par exemple réécrire les œuvres d’Héraclite, d’Épictète, de Zénon ou encore de Démocrite et d’Épicure afin de dialoguer avec ces derniers ou de leur demander conseil afin d’aboutir à un équilibre réfléchi de type 2. L’IA Épictète nous apprendrait à nous soucier de ce qui dépend de nous et à ne pas s’embarrasser de ce qui n’en dépend pas, l’IA Héraclite nous montrerait à quel point tout change en permanence dans le monde, là où l’IA Zénon sèmerait le doute en relevant des régressions à l’infini dans notre manière de concevoir l’espace et le temps. En l’occurrence, il existe actuellement un projet de modélisation de Daniel Dennett sur ChatGPT. À en croire ses inventeurs, la machine « crée des sorties textuelles que les spécialistes de Dennett confondent souvent avec les propres écrits du philosophe, sans pour autant reproduire les mots exacts de ce dernier32 ». Est-ce l’avenir de la philosophie ? Il est probable que d’ici peu les travaux de recherche académiques soient utilisés pour modéliser la pensée de Leibniz, de Descartes ou de Kant dans des IA interactives. En codant et en transcodant les théories des philosophes classiques, on leur offrirait la chance de poursuivre leur œuvre, tout en donnant un aspect ludique à l’apprentissage de la morale. Le but de l’enseignement n’est-il pas de faire vivre la pensée des grands auteurs ? Alors pourquoi ne pas faire dialoguer nos étudiants avec des IA ? Si je suis tout à fait favorable aux perspectives pédagogiques d’un tel exercice, je doute en revanche que l’on puisse ainsi prolonger la doctrine d’un philosophe. Je crois, à la manière de Nietzsche, que la répétition combinatoire ne saurait se substituer au conflit d’interprétations et de mésinterprétations que suppose tout travail philosophique33. Selon Nietzsche, nos idées ne sont que des métaphores émanant de forces actives et réactives. Traduites dans le langage de la raison, ces forces deviennent abstraites, incorporelles ; quant à nos valeurs, elles perdent peu à peu de leur signification34, au point qu’on en oublierait presque le mouvement de leur provenance et de leur émergence. Toute philosophie se code et se transcode dans de l’incorporel (c’est là le péché originel de la logique), mais son sens échappe à la forme et à la fonction. En la décontextualisant, on ne produit que des simulacres dans des machines allopoïétiques.

L’individuation axiologique et herméneutique de la pensée n’émerge pas de la computation. Sa vie est tout autre. Elle se libère au hasard de l’histoire, dont les vestiges laissent planer quelques métaphores ici et là dans un monde en devenir35. Pour ma part, je crois que de nouvelles idées, de nouvelles valeurs, de nouvelles normes, de nouvelles œuvres bouillonnent dans l’incomplétude morale. La transvaluation est à l’œuvre aujourd’hui dans les mouvements écologistes, féministes, décoloniaux, antiracistes et progressistes. Comme l’écrivait Foucault, « les forces qui sont en jeu dans l’histoire n’obéissent ni à une destination ni à une mécanique, mais au hasard de la lutte36 ». Or, avec l’IA, ce hasard de la lutte se prolonge sur le terrain de notre inconscient machinique. C’est donc à l’aune des forces actives et réactives qu’elle met en jeu que ses usages philosophiques, moraux et politiques doivent être évaluées.

Le règne des forces réactives

Comme l’écrivait Deleuze, « la bêtise n’est pas une erreur ni un tissu d’erreurs. On connaît des pensées imbéciles, des discours imbéciles qui sont faits tout entiers de vérités ; mais ces vérités sont basses, sont celles d’une âme basse, lourde et de plomb. La bêtise et, plus profondément ce dont elle est le symptôme : une manière basse de penser37 ». Ce qu’on voit à l’œuvre aujourd’hui avec l’emprise culturelle de l’IA sur les réseaux sociaux, ce n’est pas le problème de la vérité et du mensonge, du bien et du mal, mais bien celui de la lutte des valeurs réactives contre les valeurs actives. La lourdeur bien ordonnée des algorithmes de recommandation favorise aujourd’hui une confrontation des volontés dans la fureur du clic. Car, en ligne, tout ce qui compte, c’est la réaction. Un texte, une image, une vidéo n’ont de valeur que parce qu’ils font réagir. Le modèle du réseau social, c’est le règne des forces réactives. La vérité n’a rien à voir avec ce système. Aussi, vouloir résoudre le problème de la prolifération des mensonges (fake news) en ligne en leur opposant des vérités (fact-checking) est vain. Dans cet univers, la petite vérité elle-même participe à l’accroissement des forces réactives, à grands coups d’effets de surface stimulant les likes et les commentaires. Le réseau social est une usine à produire de la bêtise (tout simplement).

Vouloir imposer le règne de la vérité sur les réseaux sociaux est un non-sens, car la crise des valeurs que nous traversons est bien plus profonde que ne le suggère l’idée selon laquelle nous serions entrés dans une « ère de la post-vérité ». En tant qu’historien des sciences, je ne connais pas d’« ère de la vérité ». Ne serait-ce donc pas plutôt la bêtise dont il faut se méfier ? Cela ne fait aucun doute. David Chavalarias l’a bien montré, les réseaux sociaux favorisent la constitution de chambres d’écho où l’information circule en circuit fermé entre individus ayant des opinions similaires38. Les algorithmes saturent ainsi l’espace social de contenus renforçant l’opinion de l’usager au moyen d’une bulle de filtres, c’est-à-dire au moyen d’un « effet de filtrage de l’information […] qui peut mener à une perception biaisée de la réalité39 ». Sur les réseaux sociaux, on ne voit que ce qui nous ressemble ; c’est le miroir de notre propre bêtise.

La massification de contenus impacte bien évidemment le réseau, mais c’est avant tout les réactions itératives des utilisateurs qui biaisent le système. Chavalarias rappelle que deux types de biais cognitifs majeurs sont à l’œuvre dans la formation des chambres d’écho et, plus généralement, de nos opinions en ligne : le biais de confirmation et le biais de négativité. Le biais de confirmation, on l’a vu, transforme l’équilibre réfléchi de type 1 en un déséquilibre irréfléchi exacerbant l’entre-soi et le repli sur soi. Le renforcement de l’opinion passe ainsi par l’itération de posts accumulés qui viennent confirmer les croyances de l’individu sans qu’il soit confronté à des posts contradictoires. Et le phénomène s’amplifie au moyen de la comparaison sociale (likes et commentaires) dans des chambres d’écho où s’accumulent des bulles de filtres verrouillant les croyances du groupe. Quant au biais de négativité, il renvoie au traitement asymétrique de l’information selon que celle-ci est négative ou positive. Une information négative est bien plus impactante et donc bien plus relayée qu’une information positive. C’est pourquoi les réseaux sociaux attisent les passions tristes. Il semble d’ailleurs que le biais de négativité prenne souvent le pas sur le biais de confirmation, ce qui explique en partie l’engouement pour les théories du complot et les discours de haine. En l’espèce, l’amplification médiatique des passions tristes réactionnaires se révèle dans les nombres.

Comme l’indique Chavalarias, « le calcul du score d’amplification au niveau des groupes politiques montre en effet que, dans tous les pays étudiés, la parole conservatrice est amplifiée par rapport à la parole progressiste40 ». Au-delà de la polarisation des débats par la formation de chambres d’écho, le biais de négativité favorise les théories fallacieuses et les fantasmes qui déstabilisent l’opinion publique en faisant primer la bêtise opportuniste et électoraliste. Par quel miracle la computation philosophique parviendrait-elle à faire éclater les bulles de filtres ou échapperait-elle à son enrôlement par les forces réactives ? Une IA philosophe destinée à « éveiller » à la vérité ou à la morale est peut-être un pharmakon41, à la fois remède et poison.

Le Béhémoth du capitalisme cognitif a en l’occurrence bien d’autres prises à son actif. Il a démontré sa capacité de manipuler le nec plus ultra du choix social : le vote démocratique. En 2014, l’application « thisisyourdigitallife », créée par Aleksandr Kogan, a ciblé les différents facteurs de décision de futurs votants en récoltant des pétaoctets de données personnelles sur la plateforme Facebook. Il faut souligner que le procédé qui a attiré des millions de personnes dans le piège est une application amusante permettant de déterminer son profil psychologique en ligne : un cheval de Troie cognitif supposé vous dire qui vous êtes à partir d’un quizz. Grâce aux Cn2 siphonnées, l’IA, appelée Ripon, a pu modéliser la tournure d’esprit général des votants et fomenter un superinconscient machinique antidémocratique. La société de conseil Cambridge Analytica a établi à partir de cette modélisation des stratégies d’influence au moyen de fake news et autre mèmes diffusés par des bots pour favoriser le vote en faveur du Brexit, de Trump et de Bolsonaro. Et le stratagème a marché. Le scandale de l’exploitation des données personnelles issues de 87 millions de comptes utilisateurs Facebook spoliées par Cambridge Analytica a révélé au monde qu’une IA était capable de manipuler une opinion réactive pour faire basculer un scrutin en faveur des forces réactionnaires.

Le cens caché 2.0

Dans « Le votant », une nouvelle parue en 1955, Isaac Asimov prédisait que, d’ici à 2008, les machines seraient devenues le rouage central du dispositif électoral. Il n’avait pas tort. Avec une ironie certaine, il imaginait que les capacités de prédiction de la machine feraient décroître le nombre de votants nécessaire pour obtenir le résultat le plus représentatif ou décisif de la majorité – et ce jusqu’à ce qu’il n’y ait plus qu’un seul votant. La fiction d’Asimov reprend donc le théorème d’impossibilité de l’économiste Kenneth Arrow sous une forme narrative. Le paradoxe d’Arrow, ainsi qu’il est également nommé, consiste à démontrer l’impossibilité de l’agrégation des choix individuels dans le choix collectif. Bien qu’en démocratie les voix de tous les électeurs comptent, force est de constater que, dans un scrutin à majorité absolue, un seul individu permet de faire basculer le vote42. Cet individu, ayant un choix systématiquement identique à celui du groupe majoritaire, est donc un « dictateur ».

La démonstration d’Arrow repose sur la mise en évidence d’une contradiction entre quatre règles démocratiques qui rend l’expression de la volonté du peuple par le vote impossible. Autrement dit, en instituant des principes électoraux incompatibles, on en arrive à une situation où le choix social est déterminé par un dictateur caché dans les grands nombres. En s’en tenant à une description simplifiée du théorème43, Arrow pose : (1) le principe d’universalité qui accorde la possibilité d’une agrégation du choix individuel dans le choix collectif (il n’y a pas de choix interdit pour l’électeur) ; (2) le principe de liaison positive ou d’unanimité qui assure la représentativité du choix individuel dans le choix collectif ; (3) le principe d’indépendance par rapport aux informations extérieures qui garantit que le choix collectif dépend uniquement des préférences individuelles et non de facteurs externes ; et (4) le principe de non-dictature qui empêche un individu seul de décider de l’issue du vote.

Arrow montre ensuite que pour respecter les principes (1), (2) et (3) il faut paradoxalement se défaire du principe (4) et ainsi accepter la dictature. La démonstration repose sur la notion de partie décisive du scrutin, c’est-à-dire sur le fait que n’importe quel groupe majoritaire représentant 51 % des voix exprimées dans un vote est nécessairement l’élément décisif du scrutin. C’est dans cet ensemble que se cache le dictateur, qui n’est autre que l’individu dont le choix est systématiquement représentatif de la majorité. Selon Arrow, il y a toujours un dictateur caché dans les grands nombres qui est à lui seul la partie décisive de la population. Ce dictateur détermine ainsi l’issue du vote, si bien que le reste de la population ne compte pas.

Imaginons que la partie décisive des votants P soit divisée en deux sous-parties P_1 et P_2 sans individus en commun. Considérons maintenant une élection entre A, B et C. On pourrait avoir pour tous les votants de P_1 un vote exprimant le choix A > B > C, pour P_2 un vote exprimant le choix B > C > A et pour les autres électeurs C > A > B. Dans ce cas, B bat C selon le principe d’unanimité, puisque c’est le vœu exprimé par les électeurs de P aussi bien dans P_1 que P_2. Mais, étant donné que les préférences de P_1 et P_2 diffèrent sur A et B sans s’influencer, conformément au principe d’indépendance, on se retrouve face à deux cas de figure : ou bien B bat A selon le vœu exprimé par P_2, ce qui signifierait que P_2 est la véritable partie décisive des votants ; ou bien A bat B selon le vœu exprimé par P_1 et dans ce cas cela signifierait que c’est P_1 qui est la véritable partie décisive des votants en vertu du principe d’universalité. Puisque, dans toute division d’une partie décisive en deux, seule l’une des deux est véritablement décisive, en répétant la division un nombre n de fois, on arrive au terme de l’opération à un seul individu. CQFD.

Multivac, la machine imaginaire d’Asimov, permet précisément d’identifier ledit dictateur. Du fait de ses performances computationnelles, elle n’a besoin que d’un individu pour calculer le vote de la majorité dans le respect des principes énoncés – sous la forme d’un suffrage censitaire aux allures de représentativité algorithmique absolue. À partir d’une multitude de facteurs, elle identifie dans quel État, dans quel canton, l’individu décisif se trouve afin de l’interroger : « Que pensez-vous du ramassage des ordures dans votre quartier ? Que pensez-vous du prix des œufs ? » Le votant, en répondant à ces questions, génère dans la machine le résultat du meilleur candidat à élire. Étant donné qu’il est l’élément « décisif » de la division de voix entre les candidats, son choix apparaît comme celui de la majorité.

Multivac soupèse toutes sortes de facteurs connus, des milliards de facteurs. L’un d’eux n’est pas connu, toutefois, et il ne le sera pas avant longtemps. C’est le schéma de réaction du cerveau humain. Tous les Américains sont soumis aux pressions qui les modèlent, ce que les autres Américains disent et font, ce qui leur est fait, ce qu’ils font aux autres. Tout Américain peut être amené à Multivac pour faire analyser sa tournure d’esprit. À partir de là, la tournure d’autres esprits de la nation peut être estimée44.

C’est là un point central. Car l’estimation de la tournure d’esprit est précisément l’élément permettant d’identifier la partie décisive.

Norman Muller, désigné par Multivac comme unique votant de l’année 2008, n’est jamais confronté directement à cette dernière. Il ne connaîtra d’elle que des questions transmises au moyen d’un téléscripteur. En ce sens, le jeu fonctionne à partir de l’opacité de l’analyse des données. La boîte noire algorithmique définit le meilleur candidat sans que l’on sache ni comment ni pourquoi. On comprend bien dans la nouvelle d’Asimov que, sous des allures démocratiques, le choix est dictatorial. Le peuple ne s’éprouve cependant pas dépossédé de ses prérogatives : « Dans ce monde imparfait, les citoyens souverains de la première et la plus grande Démocratie Électronique avaient, par l’intermédiaire de Norman Muller, exercé une fois de plus leur libre et inaliénable droit de vote45. » Mais n’est-ce pas là, plutôt qu’une machination, une illusion démocratique inscrite dans le scrutin majoritaire ? Disons-le, le vote est un jeu. Or, comme l’écrivait Roger Callois : « Tout jeu suppose l’acceptation temporaire, sinon d’une illusion (encore que ce dernier mot ne signifie pas autre chose qu’entrée en jeu : in-lusio), du moins d’un univers clos, conventionnel et, à certains égards, fictif46. » Si on entend le prendre au sérieux, n’y a-t-il pas alors un moyen de lever le voile, de sortir de la dictature en utilisant la puissance de l’illusion qui corrige l’illusion ?

À rebours des méthodes d’influence dans lesquelles elle s’est précédemment illustrée, l’IA pourrait bien nous y aider, non pas en prenant des décisions à notre place, mais bien en prenant une place dans la décision, de telle sorte qu’elle favorise un agencement autopoïétique, c’est-à-dire un agencement permettant de nous faire réfléchir sur notre propre choix social.

In vino veritas

Bien que le théorème d’impossibilité d’Arrow ait de quoi faire désespérer quiconque s’attaque à la question du choix social, il n’en est pas moins vrai que des solutions existent si on s’autorise d’autres agencements. Depuis la publication du théorème d’Arrow, des chercheurs comme Amartya Sen ont proposé des méthodes de vote alternatives pour éviter le piège du dictateur47. Ce qui prouve qu’en changeant la configuration et les modalités du vote – en un mot l’agencement –, il est possible d’éviter le péril qui se cache dans les grands nombres. Mais préserve-t-on pour autant les principes du vote démocratique ?

À ce jour, le mode de scrutin qui semble le plus robuste a été inventé par Michel Balinski et Rida Laraki48, deux chercheurs du CNRS ayant repris un système de notation en vigueur dans les concours de vin. En partant du constat que le théorème d’impossibilité d’Arrow ne comporte pas de solution acceptable et que le modèle classique d’agrégation des choix49 (décrivant un ordre entre des candidats A > B > C) ne permet pas de représenter adéquatement le vœu (sémantique) du votant, ces derniers proposent de développer un nouveau modèle basé sur l’appréciation individuelle de chaque votant à l’endroit de chaque candidat. Ce modèle, appelé le jugement majoritaire, se déroule en un seul tour durant lequel chaque votant doit noter indépendamment chaque candidat à partir d’une appréciation allant de la mention « excellent » à la mention « à rejeter ». Chaque candidat reçoit alors un nombre d’évaluations identique. Le candidat qui l’emporte est celui obtenant la meilleure évaluation (principe d’universalité) ; à l’inverse, ceux qui reçoivent un avis « à rejeter » sont considérés comme inéligibles. Ce mode de scrutin, aussi simple soit-il, s’appuie sur un ensemble de théorèmes mathématiques savamment démontrés qui assure la possibilité du choix social individuel et de sa bonne représentation dans le choix collectif50 (principe d’unanimité). Ce mode de scrutin est de plus robuste car il préserve le vote de l’influence extérieure et du « vote utile » qui oriente bien souvent le choix individuel vers un candidat ayant plus de chances de gagner selon les sondages (principe d’indépendance). Aucune stratégie de division ou de coalition ne peut entraver le bon fonctionnent de l’élection dans un tel schéma à un tour. Ce modèle évite ainsi le paradoxe de Condorcet51 et le théorème d’impossibilité d’Arrow (principe de non-dictature). Il peut donc être dit autopoïétique, au sens où il permet au collectif de s’autoproduire et de s’ajuster en fonction du choix individuel mis en œuvre dans le choix collectif.

Bien que ce modèle soit tout à fait cohérent, la difficulté tient au respect sémantique de l’avis des votants. C’est d’ailleurs un point également discuté dans le domaine de l’œnologie. Il est en effet bien difficile de s’accorder sur les valeurs d’appréciation d’un vin (comme d’un candidat). Pour ne pas perdre le sens de la palette aromatique, la diversité des sensations individuelles ou encore les aspects de la robe qui tape dans l’œil, les experts préconisent l’utilisation d’une mention globale. Autrement dit, la préservation du vœu des experts passe par un processus de traduction sémantique de l’expérience générale (une mention qualitative) en note (évaluation quantitative). Au cours de la compétition « Les citadelles du vin », qui eut lieu dans la région de Bordeaux en 2006, les experts proposèrent pour ce faire une évaluation de 1 247 vins à partir de 14 attributs notés sur une échelle allant de 0 (« mauvais ») à 6 ou 8 (« excellent »). Mais cette première notation trop complexe eut un effet négatif. Elle ne favorisa que des vins « corrects » sans pour autant décorer les vins exceptionnels. Comme l’indiquent à ce propos les œnologues Émile Peynaud et Jacques Blouin :

À l’évidence, l’addition des notes n’est pas un bon système d’appréciation de la qualité. Une seule faiblesse peut être rédhibitoire et, parfois, une seule qualité exceptionnelle suffit pour un grand vin […]. Bien qu’adoptée, sur le plan mondial, par les Concours de vins patronnés par l’Office international de la vigne et du vin, cette méthode a du mal à détecter les vins d’exception en favorisant trop les vins « gustativement corrects ». On doit – ou l’on devrait – pouvoir accorder une très bonne note à un vin ayant une (seule) caractéristique merveilleuse52.

Pour éviter cet effet de moyennisation des qualités, conduisant à médailler des vins corrects mais pas exceptionnels, les œnologues ont mis au point un système de notation exprimant globalement un avis sur le vin (six mentions allant de « parfait » à « très mauvais ») à partir d’une appréciation qualitative générale convertie ensuite en chiffre permettant d’exclure les mauvais vins et de décorer les vins d’exception. « Renouvelons le conseil : pour noter globalement un vin, il ne faut pas penser directement à une valeur numérique, mais lui accorder d’abord une mention ; la note, dans l’échelle choisie, en découlera automatiquement53. »

Mais peut-on considérer ce système comme viable pour élire un représentant politique ? Bien que les critères d’appréciation soient différents, l’enjeu est le même : il faut écarter les mauvais et valoriser les bons. De sorte que la préservation de l’appréciation individuelle dans le vote collectif est un élément décisif qu’il faut encourager dans l’un comme dans l’autre cas. Or on pourrait renforcer cette dimension qualitative en introduisant dans le jugement majoritaire une combinaison des matrices sémantiques à même de générer une interprétation plus précise du vote et assurer un principe (5) de perfectibilité ou d’amélioration continue du politique. Pour ce faire, on pourrait par exemple favoriser un agencement autopoïétique humain-IA en adaptant l’IA à la sémantique de chaque votant afin de traduire au mieux ses appréciations dans un score numérique – par analogisme du calcul et du langage. L’ordre qualitatif d’un votant jusqu’à présent déçu par la politique pourrait tout à fait s’inscrire sur une échelle répartie en « salaud », « pourri », « médiocre », « piètre » et « passable », que l’IA convertirait numériquement (cinq critères convertis en cinq notes) de manière à faire correspondre ces appréciations idiosyncrasiques à celles de tous les autres électeurs. Ainsi, la vertu principale de cet agencement serait d’empêcher le sentiment de la victoire incontestable de l’élu. Elle produirait un indice qualitatif important qui en dirait davantage que le sondage de popularité à partir de matrices sémantiques décrivant le vote. En donnant accès à de telles ontologies sémantiques qui se cachent derrière le quantitatif, l’IA nous permettrait d’y voir plus clair sur la nature du suffrage et de développer de nouvelles approches en sciences politiques au-delà de la vieille carte électorale et des sondages d’opinion.

Ne pourrait-on pas révéler l’intelligence collective en incluant une IA dans le vote ? En gardant le mode classique d’agrégation des choix de Condorcet, on peut imaginer un autre agencement autopoïétique qui consisterait à inclure un faussaire (notre IA) parmi les candidats avant de le récuser une fois le scrutin rendu54. Comme nul faussaire humain ne se résoudrait à se retirer une fois élu, il faut nécessairement attribuer ce rôle à une IA. Ainsi, sans avoir à traduire l’appréciation qualitative dans le quantitatif, on peut résoudre le problème du paradoxe de Condorcet et du dictateur. En déplaçant donc le jeu de l’imitation de Turing au sein du scrutin, ce dernier devient imprévisible d’un point de vue statistique. La loi des grands nombres est mise à mal. Car on doit gager sur l’identité cachée de l’IA à 9 contre 1 si on a par exemple 10 candidats. Cet aspect est positif car il pousse à la réflexion des votants sur le bien-fondé de leur vote. L’IA fait donc office d’attraction des affects irrationnels pour révéler le fond rationnel du choix de la communauté. Elle devient un catalyseur de la raison par l’illusion. Il s’agit en ce sens d’un agencement autopoïétique qui, en illusionnant les votants par un dispositif de boîte noire à la Turing (animisme computationnel), permet de révéler le véritable vainqueur une fois les suffrages exprimés en établissant une discontinuité psychologique entre illusion et réalité, et une continuité physique entre les votants réels (naturalisme de l’information). On trouve déjà dans les championnats de football quelque chose de cet ordre. Lorsqu’au sein d’un pool de qualification la France bat l’Allemagne, que l’Allemagne bat le Brésil et que le Brésil bat la France, il n’y a pas de vainqueur absolu. Comment départager les adversaires ? En général, par la différence de buts marqués : celui qui en totalise le plus l’emporte. De la même manière, notre IA sert d’élément de comparaison entre les candidats. Celui qui a marqué le plus de points face à l’IA est donc le véritable vainqueur. Il aura déjoué l’illusion du vote. Au fond, le mensonge politique agencé dans un dispositif autopoïétique peut être dépassé par une sorte d’autorégulation du système.

Donnant donnant

Des alternatives pour nos sociétés existent d’ores et déjà si on s’autorise un dépassement des usages actuels de l’IA. En l’utilisant pour retrouver le naturalisme de l’information et l’analogisme du calcul et du langage, on peut favoriser la coopération rationnelle entre les différents acteurs du réseau. C’est précisément ce que la théorie de la coopération de Robert Axelrod permet d’envisager55. Ce dernier a organisé en 1979 un tournoi d’algorithmes afin de définir la meilleure stratégie à adopter face au célèbre dilemme du prisonnier qui met en présence deux joueurs ayant chacun deux options, soit coopérer, soit faire cavalier seul, un nombre de fois indéterminé. Si les deux joueurs coopèrent, ils obtiennent mutuellement un score R = 3 (récompense mutuelle). Si un seul coopère alors que l’autre fait cavalier seul, le premier obtient le salaire du dupe S = 0 et le second la tentation de l’égoïste T = 5. Enfin, dernier cas de figure, si les deux font défection ils obtiennent la punition de l’égoïste P = 1.

Tableau du dilemme du prisonnier

Joueur 2

Joueur 1

Options

Coopérer

Faire cavalier seul

Coopérer

R=3, R=3

S=0, T=5

Faire cavalier seul

T=5, S=0

P=1, P=1

Toute la complexité tient au fait d’imaginer l’action de l’autre individu sans qu’on ait la certitude absolue qu’il fasse ce que l’on pense. Par exemple, si vous pensez que l’autre personne va coopérer, il semble plus profitable de faire cavalier seul. De même, si vous pensez qu’il va faire cavalier seul, vous devriez en faire autant. Dans les deux cas, il vaut donc mieux faire cavalier seul. Mais c’est là que les choses se compliquent. Si cette logique vous semble valide, c’est qu’elle l’est sans doute également pour l’autre. Lui aussi devrait donc faire cavalier seul quoi que vous fassiez. Au bout du compte, vous allez vous retrouver tous les deux à faire cavalier seul et ne gagner que 1 point à chaque partie, alors que si vous aviez coopéré vous auriez gagné 3 points tous les deux. Autrement dit, le raisonnement individualiste conduit au pire résultat possible pour les deux joueurs. En y réfléchissant bien, on voit que la coopération est profitable. C’est là que se trouve à la fois l’origine de la tragédie des biens communs et la perspective écosystémique de l’entraide. Comment coopérer ?

Pour résoudre ce dilemme, Axelrod a mis en concurrence 14 programmes provenant de chercheurs en psychologie, économie, sciences politiques, mathématiques et sociologie. Ce classique de la théorie des jeux leur étant familier, les modélisateurs avaient donc des idées de stratégies très élaborées. Mais, étonnamment, le programme qui l’a emporté était le plus simple. Il s’agit de Donnant donnant (tit for tat), un algorithme élaboré par le psychologue Anatol Rapoport et dont la particularité est de toujours chercher la coopération. Donnant donnant coopère au premier coup puis imite le comportement de son adversaire à chaque coup suivant. Si son adversaire fait cavalier seul, il fera cavalier seul. Mais si son adversaire se met à coopérer, il coopérera au tour suivant. Donnant donnant l’a emporté à deux reprises. Lors du premier tournoi, son efficacité a constitué une surprise. Mais, pour le second tournoi, les participants disposaient de toutes les parties précédentes et d’une complète transparence sur l’algorithme. Donnant donnant a encore gagné. Cela prouve sa robustesse et sa vertu. Il a toutefois une faiblesse : si on connaît à l’avance le nombre de parties que l’on va jouer, l’adversaire fera défection à l’avant-dernier coup et l’emportera. Le succès d’une stratégie coopérative suppose ainsi une certaine transparence du programme et une certaine opacité du temps. Axelrod en conclut que « l’évolution de la coopération exige que les individus aient suffisamment de chances de se rencontrer à nouveau pour que l’issue de leur prochaine interaction leur importe56 ».

Pour qu’une stratégie de défection soit neutralisée, la coopération doit donc être collectivement stable et étendue sur une période suffisamment longue (voire indéfinie). Dans un groupe social où les individus coopèrent entre eux, la stratégie du cavalier seul est nécessairement déficiente. De plus, lorsque les individus savent qu’ils sont amenés à se revoir, la tentation de l’égoïste perd de sa valeur. Car le risque est trop grand si on ne sait pas combien de temps on va devoir jouer ensemble. Ne pourrait-on donc pas saturer notre monde en IA Donnant donnant pour que la tentation de l’égoïste soit annulée au sein de toutes les interactions humaines ? Il faudrait pour cela changer l’organisation de nos interactions avec les IA et entrer dans un agencement autopoïétique structuré selon le naturalisme de l’information en mettant en évidence les implications de chacune de nos décisions pour l’ensemble du système. En considérant que tout est lié et connecté non pas sur le mode du totémisme connexionniste mais sur le mode du naturalisme de l’information, on en arrive au fond à une régulation rétroactive qui invite tout le monde à coopérer car tout le monde coopère.

Maintenant que Dieu est mort, que les idoles animistes sont brisées et que les totems artificiels sont à terre, nous voilà rendus à nous-mêmes, joueurs sans dieu ni IA face à l’incertitude de l’action collective. Ferez-vous donc le pari de la coopération ou bien celui de l’égoïsme ?

« Le jeu est une sorte de rêve éveillé, différent du rêve ordinaire par le fait qu’il s’accomplit en commun57. » De quoi rêve-t-on ensemble ?

1. Raymond LULLE, L’Art bref, trad. Armand Llinarès, Paris, Cerf, 1991, p. 137.

2. Lulle définit 1 680 combinaisons de 30 propositions, soit 30 × 1 680 = 50 400, à partir de quoi il formule un nombre de questions trois fois plus grand soit 151 200 (ibid., note p. 135).

3. Ibid., p. 137.

4. Miguel MASSUTI ALZAMORA, Sus obras Lulianas, Palma de Majorque, Publicationes de la Schola Lullistica, vol. 1, 1951.

5. Anthony BONNER, « Introduction et bibliographie », in Robert PRING-MILL, Le Microcosme lullien, Paris-Fribourg, Cerf-Academic Press, 2008, p. 21.

6. Anthony BONNER, The Art and Logic of Ramon Llull, Leyde et Boston, Brill, 2007.

7. José G. HIGUERA RUBIO, « Introducción », in Ramón LLULL, Libro de los correlatives, Madrid, Trotta, 2008.

8. Gottfried Wilhelm LEIBNIZ, Dissertatio de arte combinatoria, Leipzig, 1666. Le lien entre la combinatoire de Lulle et Leibniz est rappelé dans sa thèse par M. SERRES, Le Système de Leibniz et ses modèles mathématiques, op. cit.

9. On retrouve des réflexions apparentées au travail de Lulle chez Christophorus Clavius, Paul Guldin (cf. supra, chap. 3) ou encore le père Mersenne.

10. Richard VOLKMAN et Kathleen GABRIELS, « AI moral enhancement : Upgrading the socio-technical system of moral engagement », Science & Engineering Ethics, vol. 29, no 2, 2023, p. 11.

11. Gérald BRONNER, Apocalypse cognitive, Paris, PUF, 2021.

12. C’est pour cela d’ailleurs qu’il est membre du CSEN.

13. Ingmar PERSSON et Julian SAVULESCU, Unfit for the Future ? The Need for Moral Enhancement, Oxford, Oxford University Press, 2012.

14. Alberto GIUBILINI et Julian SAVULESCU, « The artificial moral advisor : The “ideal observer” meets artificial intelligence », Philos. Technol., no 31, 2018, p. 169-188.

15. Edmond AWAD, Sohan DSOUZA, Richard KIM, Jonathan SCHULZ, Joseph HENRICH et al., « The moral machine experiment », Nature, no 563, 2018, p. 59-64.

16. Thomas H. COSTELLO et al., « Durably reducing conspiracy beliefs through dialogues with AI », Science, vol. 385, no 6714, 2024.

17. Traduction approximative de la célèbre formule d’Ovide dans les Métamorphoses : Video meliora proboque, deteriora sequor.

18. Julian SAVULESCU et Hannah MASLEN, « Moral enhancement and artificial intelligence : Moral AI ? », in Jan ROMPORTL, Eva ZACKOVA et Jozef KELEMEN (dir.), Beyond Artificial Intelligence : The Disappearing Human-Machine Divide, Cham, Springer, 2015, p. 80

19. Michel BALINSKI et Rida LARAKI, Majority Judgement : Measuring, Ranking and Electing, Cambridge, MIT Press, 2010.

20. Mathieu CORTEEL, « De la loi des grands nombres aux grands nombres qui font la loi. IA, jeu de l’imitation et vote démocratique », Multitudes, no 78, 2020, p. 105-113.

21. J. SAVULESCU et H. MASLEN, « Moral enhancement and artificial intelligence », art. cité.

22. P. CASSOU-NOGUÈS, La Bienveillance des machines, op. cit.

23. John RAWLS, Théorie de la justice, trad. Catherine Audard, Paris, Seuil, « Points Essais », 2009, p. 74.

24. David CHAVALARIAS, Toxic data. Comment les réseaux manipulent nos opinions, Paris, Flammarion, 2022.

25. Michael ANDERSON, Susan Leigh ANDERSON et Chris ARMEN, « Towards machine ethics : Implementing two action-based ethical theories », Proceedings of the AAAI Fall Symposium on Machine Ethics : Technical Report FS-05-06, AAAI Press, 2005, p. 2.

26. Ibid.

27. Ibid.

28. William D. ROSS, The Right and the Good, Oxford, Oxford University Press, 1930.

29. J. RAWLS, Théorie de la justice, op. cit., p. 73-74.

30. Francisco LARA et Jan DECKERS, « Artificial intelligence as a Socratic assistant for moral enhancement », Neuroethics, no 13, 2020, p. 282.

31. Ibid., p. 284.

32. Eric SCHWITZGEBEL, David SCHWITZGEBEL et Anna STRASSER, « Creating a Large Language Model of a Philosopher », manuscrit non publié, 2022, <www.faculty.ucr.edu/~eschwitz/Schwi tzPapers/GPT-3-Dennett-221102.pdf>.

33. Friedrich NIETZSCHE, Le Gai Savoir, in Œuvres philosophiques complètes, t. V, trad. Pierre Klossowski, Paris, Gallimard, 1967.

34. Gilles DELEUZE, Nietzsche et la philosophie, Paris, PUF, 2009.

35. Friedrich NIETZSCHE, La Généalogie de la morale, in Œuvres philosophiques complètes, t. VII, trad. Jean Gratien, Cornélius Heim et Isabelle Hildenbrand, Paris, Gallimard, 1971.

36. Michel FOUCAULT, « Nietzsche, la généalogie, l’histoire », in Dits et écrits, t. II, Paris, Gallimard, 1994, p. 148.

37. G. DELEUZE, Nietzsche et la philosophie, op. cit., p. 120.

38. D. CHAVALARIAS, Toxic data, op. cit., p. 74-91.

39. Ibid., p. 284.

40. Ibid., p. 88.

41. « Tout objet technique est pharmacologique : il est à la fois poison et remède. Le pharmakon est à la fois ce qui permet de prendre soin et ce dont il faut prendre soin, au sens où il faut y faire attention : c’est une puissance curative dans la mesure et la démesure où c’est une puissance destructrice » (<https://arsindustrialis.org/pharmakon>).

42. Kenneth J. ARROW, Social Choice and Individual Values, New York, Wiley & Sons, 1951.

43. Jean-Louis BOURSIN, Les Paradoxes du vote, Paris, Odile Jacob, 2004, p. 114-127.

44. Isaac ASIMOV, « Le votant », in Le robot qui rêvait, trad. France-Marie Watkins, Paris, J’ai lu, 1988, p. 177.

45. Ibid., p. 186.

46. Roger CAILLOIS, Les Jeux et les Hommes, Paris, Gallimard, 1958, p. 39.

47. Amartya Sen propose par exemple un système de vote dans lequel chaque votant attribue une « utilité » numérique à chaque candidat. Seulement, si on considère que les utilités sont comparables, le dictateur réapparaît. Cf. Amartya SEN, Collective Choice and Social Welfare, San Francisco, Holden-Day, 1970.

48. M. BALINSKI et R. LARAKI, Majority Judgement, op. cit.

49. Le modèle classique inventé par Condorcet fonctionne de la manière suivante : chaque votant inscrit son choix selon un ordre préférentiel entre les candidats, puis on calcule 2 à 2 les victoires entre les différents candidats. Reprenons donc de manière détaillée l’exemple donné par Condorcet : Si on considère pour 3 candidats un corps électoral de 60 votants desquels on tire 23 voix indiquant l’ordre A > C > B ; 19 indiquant B > C > A ; 16 indiquant C > B > A ; et 2 indiquant C > A > B, on obtiendra par comparaison des préférences 2 à 2. L’analyse permet de définir le système le plus juste en désignant ce que l’on appelle un « vainqueur de Condorcet ». En considérant l’ordre des propositions selon le nombre de voix qu’elles récoltent, le vœu de la pluralité se présente de la manière suivante : C > B ; C > A ; et B > A. On a donc, par transitivité, la proposition C > B > A, de sorte que C est dans ce cas un véritable vainqueur de Condorcet.

50. Michel BALINSKI et Rida LARAKI, « A theory of measuring, electing, and ranking », PNAS, vol. 104, no 21, 2007, p. 8720-5.

51. Si on prend l’exemple d’une élection entre A, B et C, on peut être confronté au paradoxe de Condorcet dans le cas où le vœu des électeurs s’exprime de la manière suivante : 23 pour A > B > C ; 0 pour A > C > B ; 2 pour B > A > C ; 17 pour B > C > A ; 10 pour C > A > B ; et 8 pour C > B > A. La proposition A > B obtient 33 voix contre 27. La proposition C > A obtient 35 voix contre 25. Enfin, la proposition B > C obtient 42 voix en contre 18. On voit alors apparaître le paradoxe de Condorcet. Le vœu de la majorité se présente dans ce cas sous une forme contradictoire entre les propositions : B > C ; C > A ; et A > B. On a donc une proposition contradictoire, B > C > A > B, ce qui ne permet pas d’établir de vainqueur sans recourir à la dictature.

52. Émile PEYNAUD et Jacques BLOUIN, Découvrir le goût du vin, Paris, Dunod, 1999, p. 108.

53. Ibid., p. 109.

54. Résolution du paradoxe de Condorcet : si pour 3 candidats et 60 votants, on arrive à une répartition des votes telle que B > C ; C > A ; et A > B conduisant au paradoxe B > C > A > B, on peut résoudre la situation en considérant qu’un des candidats est un faussaire à retirer. Par l’inclusion de notre règle du faussaire artificiel, on peut résoudre la contradiction en retirant l’IA candidate qui se trouve cachée au sein des trois candidats. Si A se révèle être ladite IA, B a gagné. Si C est l’IA, c’est A qui l’emporte. Enfin, si B est une IA, C l’emporte. Le paradoxe est donc résolu par la suppression de l’IA candidate une fois le scrutin rendu. Ainsi, le choix de la pluralité est assuré au moyen de la puissance du faux.

55. Robert M. AXELROD, Donnant donnant. Théorie du comportement coopératif, trad. Michèle Garène, Paris, Odile Jacob, 1992.

56. Ibid., p. 31.

57. Eugen FINK, Le Jeu comme symbole du monde, trad. Hans et Alex Lindenberg, Paris, Minuit, 1979, p. 137.

Conclusion

Écrire une conclusion est un exercice étrange dans lequel on joue à retourner son texte sur lui-même. À défaire ses plis pour déployer l’ensemble et faire apparaître le motif. Dans cette contorsion mentale, il faut récapituler le canevas d’une pensée dont on n’est plus tout à fait certain qu’il s’agisse de la sienne. Des pages familières deviennent étrangères, comme une photo d’enfance où on ne se reconnaît que parce que les autres vous disent qu’il s’agit de vous. Peu à peu, on en vient à se demander ce que voulait dire cet autre. Si je me rappelle bien, il essayait de montrer l’absurdité de la croyance en l’IA et l’aliénation qui en découle. Il se moquait du catéchisme néopositiviste glorifiant la machine logique et méprisant l’humain. Il se plaisait à imaginer d’autres agencements, où le sens commun et notre intelligence collective ne seraient ni expropriés ni exploités par des appendices connectés à nos cerveaux au profit du capitalisme cognitif. Quelle idée saugrenue ! A-t-il réussi ? Le scepticisme qu’il affichait crânement se retourne maintenant contre lui.

Au-delà des craintes et des espérances laissées en suspens, une chose reste encore à éclaircir pour que l’origami se révèle. Suis-je l’auteur de ce livre ? Entre le pastiche de Borges, de Nietzsche ou de Deleuze, celui-ci n’est-il pas un patchwork de textes aléatoirement piochés dans la bibliothèque de Babel, une combinatoire rudimentaire qui ne dit pas son nom ? D’ailleurs, tous les livres ne le sont-ils pas ? Cela signifierait que les bibliothèques où je me suis rendu contiendraient plus d’œuvres factices que d’œuvres réelles. Mes longues heures de lecture passées entre les bibliothèques parisiennes et celles de Harvard, mes pérégrinations chez les bouquinistes des quais de Seine ou les libraires du Quartier latin n’auront été qu’un long et irrémédiable cheminement vers l’illusion. Il n’y aurait donc pas de certitude dans mon propos. Rien de tout ce que j’ai assimilé ne me donnerait accès au réel. Pourtant, si j’aime tant les bibliothèques, c’est pour mieux en sortir l’esprit vif et assoiffé de réalité. Je suis sceptique par souci de réalisme.

Il me faut donc trouver un moyen de m’évader de la bibliothèque de Babel, de m’échapper du vide du non-sens bien ordonné de la combinatoire artificielle pour ne pas en rester prisonnier pour l’éternité. Car, comme l’écrit Borges, dans la bibliothèque-univers tout y est, « mais pour une ligne raisonnable ou une notice exacte, il y aura des millions de cacophonies insensées, de fatras verbaux et d’incohérences. Tout, mais les générations des hommes pourront passer sans que les rayons vertigineux – les rayons qui oblitèrent le jour et où habite le chaos – leur aient octroyé une page tolérable1 ».

Nul autre que Leibniz ne l’a peut-être mieux expliqué : la bibliothèque de Babel est bâtie sur deux thèses fallacieuses qu’il faut maintenant réfuter une à une dans un ultime geste de rappel au bon sens. La première thèse, qui fonde la totalité langagière de la bibliothèque et qu’il nomme l’« horizon de la doctrine humaine », reprend et développe un aphorisme de Térence stipulant que « rien n’est dit qui n’ait été dit auparavant ». Pour Leibniz, un jour viendra où toutes les possibilités combinatoires au principe de la composition des livres et des discours seront épuisées2. Il n’y aura donc plus rien à dire de nouveau. Tout ce qu’on écrira sera du plagiat et tout ce que l’on dira sera une redite. Ce sera la fin de la pensée. Leibniz radicalise cette thèse en considérant que cette combinatoire, qui contient l’ensemble des vérités et des mensonges de l’humanité, épuise toutes les doctrines humaines mais également toutes les possibilités de l’existence. De telle sorte que le jour où l’humanité atteindra cet horizon, elle aura épuisé la totalité de l’existence humaine ; ce sera la fin de son histoire. Serait-ce là notre arrêt de mort collectif, notre finitude essentielle enfin dévoilée ?

Ne nous résignons pas si vite. Leibniz met en évidence une condition cruciale à cette thèse, qu’elle ne remplit heureusement pas. Pour qu’elle soit véridique, il faudrait que le langage précède ses propres règles. La tour de Babel s’effondre. « On arrive ainsi à effacer toute norme de distinction des langues entre elles, naturelles ou formelles, et par là même entre la langue et la non-langue. C’est là le paradoxe de l’écriture absolue3. » Rien dans la bibliothèque de Babel ne permet de reconnaître le sens des livres au milieu de tant de bruit et d’entropie verbale. Il serait tout aussi absurde de croire qu’une grammaire générative et transformationnelle y fonde un langage en secret à l’ombre des regards (Dieu ne se cache pas dans les livres). On ne peut s’y résoudre du fait de l’incomplétude des langues à laquelle on tient tant. Je crois plutôt, à la manière de Leibniz, que nos langues émergent à la croisée de perspectives monadiques, par la conjugaison infinitésimale des points de vue. Elles naissent de nos formes de vie ouvertes sur le monde. Les langues sont le résultat de réfractions et de dérivations multiples des lumières de notre intelligence collective. Les monades, ces fenêtres ouvertes sur le monde (que nous sommes), expriment le pluralisme sémantique du même univers dans des jeux de langue infinis. C’est dans la pensée, la parole et l’écriture que la langue apparaît et se différencie dans le temps et l’espace4.

Alors que la combinatoire n’est qu’un travail mort fait pour nos IA, l’écriture et la parole sont, quant à elles, bel et bien de l’ordre du travail vivant et humain. Notre langue s’individue en soi-même et en tout autre par le fait même de vivre. Avec humour, Umberto Eco explique ce fait inépuisable en rappelant à quel point il est difficile de parler d’amour après que des milliards d’êtres humains se sont aimés et dit « je t’aime ». Comment dire de manière significative « je t’aime » sans épuiser le sens de la phrase dans la répétition du déjà-dit ? C’est là un défi pour l’avenir de l’intelligence et du cœur. Voici sa réponse :

Le passé, étant donné qu’il ne peut être détruit parce que sa destruction conduit au silence, doit être révisé : avec ironie, d’une façon non innocente. Je pense à l’attitude post-moderne comme à l’attitude de celui qui aimerait une femme très cultivée et qui saurait qu’il ne peut lui dire : « je t’aime désespérément », parce qu’il sait (et elle sait qu’il sait) que ces phrases Barbara Cartland les a déjà écrites. Pourtant il y a une solution. Il pourra dire « comme dirait Barbara Cartland, je t’aime désespérément ». Alors ayant évité la fausse innocence, en ayant dit clairement qu’on ne peut parler de façon innocente, celui-ci aura pourtant dit à cette femme ce qu’il voulait lui dire : qu’il l’aime et qu’il l’aime à une époque d’innocence perdue… Tous deux ayant accepté le défi du passé, du déjà-dit que l’on ne peut éliminer, tous deux joueront consciemment et avec plaisir au jeu de l’ironie… Mais tous deux auront réussi une fois encore à parler d’amour5.

Le jeu de mots superpose une forme de vie nouvelle dans le discours. Il permet de produire une signification propre dans des effets de surface linguistiques infinis. En réalité, rien ne limite la profondeur des significations dans notre langage. C’est pour cela que l’amour dans la poésie et l’amour dans la philosophie ne s’épuisent jamais. La pensée est expérimentale, elle est toujours à refaire. On ne vient à bout ni des mensonges ni des vérités. Il n’existe pas de seuil de saturation du langage. À chaque époque, l’écriture et la parole s’inventent et se réinventent. La conscience comme l’inconscience de la règle sont remises en jeu dans une sorte de virtualité indéfiniment renouvelée.

Selon Leibniz, le plus embarrassant avec la thèse de l’horizon de la doctrine humaine, c’est que si on l’admet, il faut admettre avec elle « qu’il y ait aussi un temps où reviennent […] les mêmes événements et où rien n’arrive qui ne soit arrivé auparavant, car les faits offrent la matière au discours6 ». C’est la seconde thèse, celle de l’éternel retour, qu’il nomme l’Apokatastasis. L’état de chose du discours se confondrait-il donc avec l’état de fait du monde dans le cycle des répétitions ? Selon cette thèse, étant donné que l’univers infini est composé d’un nombre fini d’atomes et que le langage est lui-même un ensemble fini, un jour viendra où toutes les combinaisons possibles (toutes les correspondances entre les mots et les choses) se seront produites et où tout se répétera à l’identique. Bien que la généalogie de cette idée remonte aux atomistes, elle a donné lieu à trois interprétations fondamentales7. La première, qui remonte au 39e paragraphe du Timée de Platon, stipule que puisque les mouvements planétaires sont cycliques, l’histoire universelle elle-même doit suivre un même ordre circulaire ; à la fin du cycle, les mêmes êtres renaîtront pour s’engager à nouveau vers le même destin. La deuxième n’est autre que celle popularisée par Nietzsche, dans laquelle la combinatoire des forces (actives et réactives) se recombine de la même manière encore et encore dans un temps infini en passé et un temps infini en futur. Enfin, la troisième, développée par Marc Aurèle dans ses Pensées, considère que les cycles sont semblables en apparence mais différents en réalité.

En ce qui concerne l’interprétation platonicienne, il suffit pour s’en défaire de comprendre qu’il s’agit de ce qu’on appelle plus communément une « astrologie judiciaire », étudiant le destin humain à travers le mouvement des étoiles, dont la teneur rationnelle est pour le moins discutable. On la retrouve dans les rêveries préscientifiques et les « remèdes miracles » des alchimistes. Laissons donc cela à l’ésotérisme. Pour ce qui est de l’interprétation nietzschéenne, il faut saluer sa puissance existentielle. En effet, elle offre à chacun de nous la capacité de mettre à l’épreuve sa propre vie en la confrontant à l’idée d’une immortalité en boucles éternelles. Peut-être n’y a-t-il pas de geste philosophique plus sublime du point de vue de l’éthique, tant il force à la création de valeurs nouvelles et à vivre une vie digne d’être vécue (une infinité de fois). Mais, comme l’écrit Borges :

[Georg] Cantor nie le fondement même de la thèse de Nietzsche. Il affirme l’infinité absolue du nombre des points de l’univers et même d’un mètre de cet univers ou d’une fraction de ce mètre. Compter, pour lui, n’est pas autre chose que comparer deux séries […] une acceptation géniale de ces faits a inspiré la formule selon laquelle une suite infinie – par exemple, la série naturelle des nombres entiers – est une suite dont les éléments peuvent être dédoublés à leur tour en séries infinies8.

Le dédoublement infini de l’infini n’est pas l’identité. Dans la cosmologie cantorienne de la pensée mathématique, le semblable se retrouve à l’interface d’ensembles hétérogènes. Tout le génie de la théorie des ensembles de Cantor, c’est d’avoir mis en évidence une infinité infiniment extensive de la pensée dans le redoublement de séries infinies (biunivoques) à partir d’ensembles de nature différente. Comment donc ne pas y voir un décalage fondamental entre le cadre et le contenu ? L’incomplétude du calcul se mêle alors à l’infinitude des nombres qui se rencontrent dans des ensembles différents. Il y a encore une fois un mystère qui se cache dans l’infini de la pensée. Nous ne faisons que des liaisons entre des séries, que ce soit en mathématique ou dans le langage verbal. Il me semble donc préférable de considérer à la manière de Marc Aurèle que l’histoire se rapporte à un processus de ressemblance sans identité absolue, qu’il nous faut sans cesse raconter à nouveau. Chaque vie est unique ; et c’est parce que la finitude pèse sur notre destin que l’existence a une valeur sacrée. La singularité se répète et se différencie dans le temps d’une narration infinie. La répétition ici n’enlève rien à la profondeur de l’existence. Quand bien même un éternel retour du semblable jouerait sa partition, il n’assourdirait pas la différence de l’histoire ; là où se trouve une biunivocité entre des séries de mots et des séries de faits, l’identité absolue n’existe pas. Nous ne faisons que traduire le réel au plus proche de son accomplissement dans la correspondance des séries de mots et des séries de choses.

Dans Les Mots et les Choses, Foucault montre que la logique de composition des espèces durant la Renaissance ne diffère pas de manière syntaxique de la logique taxinomique de l’époque moderne. On retrouve une forme de biunivocité entre des séries d’êtres dans des ensembles de nature hétérogène, autrement dit du semblable sur fond d’étrangeté. C’est précisément ce qui permet d’établir des correspondances entre le passé et le présent. La différence s’articule bel et bien au niveau sémantique de l’ensemble, bien que la mise en ordre de certains éléments se répète. L’ordination engendre un espace discursif à partir duquel il devient possible de faire de l’histoire et de raconter le passé dans le présent. C’est là tout l’intérêt de raconter, c’est-à-dire mettre en relation des séries de discours les uns avec les autres dans le temps long de l’histoire. Cependant, le basculement d’une époque à une autre correspond à un basculement sémantique. Lorsque Bichat invente le coup d’œil anatomique, que Pinel libère les fous ou que Bentham dessine le panoptique, on ne voit plus l’humain et le monde tout à fait de la même manière. Serait-ce ce qu’il s’est passé avec la machine de Turing ?

L’ordre du réel a-t-il changé du tout au tout depuis qu’on a affirmé que la machine pense ? C’est fort probable, mais cela n’empêche pas les correspondances avec le passé, et encore moins notre narration de perdurer. La manière dont les choses nous apparaissent est en quelque sorte produite par des tables sémantiques associant des séries similaires de choses avec les IA. Mais elle n’épuise pas pour autant le sens dans la combinatoire de la machine. L’IA pourra bien tout coder, transcoder et ordonner, il nous restera le présent du récit et les associations libres de séries. À l’instar de Don Quichotte qui engage son aventure dans la prose du roman de chevalerie et interprète les choses sous l’égide d’une sémantique révolue à l’âge classique9, l’IA plaque parfois des anachronismes dans un présent de narration qui lui échappe. Comme Don Quichotte, elle peut se dérégler et prendre les choses pour ce qu’elles ne sont pas. Car le présent lui est étranger, alors qu’il nous appartient en propre. « Le présent est à tous ; mourir c’est perdre le présent10 », écrit Marc Aurèle. Une IA ne vit pas. Une IA ne meurt pas. Une IA est toujours et déjà le résultat d’un travail mort. Elle peut bien, si tel est votre souhait, réécrire ce livre tant qu’elle le voudra dans des circuits imprimés et des datacenters, mais le geste humain dont il procède lui échappera à jamais.

1. J. L. BORGES, « La bibliothèque totale », in Œuvres complètes, t. I, op. cit., p. 1580.

2. G. W. LEIBNIZ, De l’horizon de la doctrine humaine, op. cit., p. 55.

3. M. FICHANT, « Plus ultra », loc. cit., p. 158.

4. Ibid., p. 151.

5. Umberto ECO, Apostille au « Nom de la rose », trad. Myriem Bouzaher, LGF, 1988, p. 78-79.

6. G. W. LEIBNIZ, De l’horizon de la doctrine humaine, op. cit., p. 57.

7. J. L. BORGES, Le Temps circulaire, in Œuvres complètes, t. I, op. cit., p. 413-416.

8. J. L. BORGES, La Doctrine des cycles, in Œuvres complètes, t. I, op. cit., p. 407.

9. Ibid., p. 61-62.

10. MARC AURÈLE, Pensées, cité par J. L. BORGES, Le Temps circulaire, op. cit., p. 415.