Cet épisode a été diffusé le mercredi 4 novembre à 17h, sur Radio Campus Clermont-Ferrand, 93.3.

♪♪♪ Générique sur « If The Stars Were Mine »

– Artborescience…
– Grand-Mère Feuillage, j’aimerais te poser une question… (extrait Pocahontas de Disney)
– Qu’est-ce que c’est, cette théorie du chaos ? Qu’est-ce que ça signifie ? (extrait Jurassic Park de Steven Spielberg)
– Les êtres qui… nous ont conduits ici… Ils communiquent… Au moyen de la gravité, non ? (extrait Interstellar de Christopher Nolan)
– ça fait deux questions !
– MAIS ils savent PAS communiquer ! Si ça se trouve ils sont encore en train de faire joujou avec leurs ordinateurs sans s’occuper de leur cerveau… (extrait La Belle Verte de Coline Serreau)
– Artborescience : arts, sciences, nature et pop culture !

Bonjour à toutes et tous ! Je suis heureuse de vous retrouver pour cette deuxième épisode de la deuxième saison d’Artborescience.
Artborescience, c’est l’émission sur Radio Campus qui élargit votre horizon des événements, c’est l’émission qui entrelace les découvertes de la science contemporaine et les trouvailles de la culture populaire. Artborescience, c’est l’émission qui révèle des liens, c’est l’émission qui synthétise et qui alchimise, l’émission qui butine et qui fertilise, et enfin l’émission qui assume de tirer parfois les sciences par les cheveux.
Aujourd’hui, nous plongeons plus avant dans les mondes cyberpunk pour parler des rapports entre corps, esprit et conscience ; entre esprit et matière.

♪ tapis : Jeff Russo, « Altered Carbon Main Titles », Altered Carbon Soundtrack – Season 1 & 2

L’épisode précédent a introduit la thématique en définissant les termes corps, esprit, conscience. Pour cela, je me suis principalement appuyée sur les travaux des neurobiologistes émergentistes Antonio Damasio et Christof Koch. J’ai aussi évoqué les thèses du psychologue Julian Jaynes qui ont inspiré la série Westworld.

Nous avons vu que le terme de conscience avait plusieurs sens, mais que tout ces sens étaient liés entre eux dans une sorte de continuum qui connaît des pliures, des lieux d’émergence. Ce continuum peut prendre la forme hiérarchique d’une pyramide, ou la forme chromatique d’une palette.

Explorer cette palette de la conscience nous a mené à une définition du libre arbitre comme le degré de liberté permis par la conscience pour sortir de nos automatismes. Nous avons constaté que les hôtes de Westworld sont des caricatures de nous-mêmes et de nos agents zombis, c’est-à-dire de nos processus inconscients automatisés.

A partir de ces définitions et des postulats qui y sont attachés, nous réfléchirons aux conceptions de l’esprit – voire aux croyances sur l’esprit – qui sous-tendent les œuvres cyberpunk telles que Altered Carbon, Gunnm et Ghost in the shell en particulier. Sur le cours de cette réflexion fluviale, nous rencontrerons des IA, de cerveaux géants mais bêtes et des cerveaux petits mais intelligents, un trou noir conscient et d’autres créatures.

Attention : il y aura quelques divulgations sur Gunnm et le film Ghost in the Shell de 1995. Je ne dis pas divulgâchage car ces divulgations n’entament en rien l’intérêt de ces œuvres de qualité. Vous serez tout de même prévenu·e·s au moment où ça arrivera.

Je vous propose un nouvel extrait d’Altered Carbon.

La série Altered Carbon, créée par Laeta Kalogridis et adaptée du roman de Richard Morgan, nous fait côtoyer une trans-humanité qui a essaimé parmi les étoiles. La colonisation d’autres systèmes solaires a été permise par la longévité multi-séculaire acquise par les individus. Cette longévité n’est pas celle des corps, mais celle de la mémoire, grâce à une invention issue de l’exploitation d’une technologie extraterrestre : la pile corticale. Cette pile corticale est censée pouvoir transporter – stocker – toute la personnalité, la mémoire, la conscience d’une personne. Elle est censée pouvoir stocker l’esprit d’un individu. L’esprit de l’individu – ou du moins les données qui sont supposées composer son esprit – peut ainsi emprunter des corps différents. Les corps, appelés « enveloppes », peuvent être des corps inorganiques, ou des corps organiques humains, normaux ou augmentés. Ces enveloppes sont conçues comme des outils, des moyens de se manifester pour l’esprit est qui est stocké dans la pile.

Les données y sont stockées sous forme binaire. Ainsi, ce que les personnages prennent pour l’esprit est digitalisé pour être soit stocké, soit transféré d’un mode de stockage à un autre, et ces supports de stockage peuvent se situer dans des systèmes solaires différents. Dans la série, cette pile évoque un mini-cerveau : elle ressemble à un écrin métallique alvéolé retenant une matière translucide veinée d’un réseau bleu lumineux. Dans les livres, elle a l’apparence banale d’un tube métallique.

La pile corticale ne vieillit pas : l’esprit stocké y serait donc immortalisé, d’une certaine manière. L’esprit n’est détruit que si la pile est détruite. Si l’enveloppe meurt, la pile peut être récupérée et placée dans la nuque d’un autre corps… Ce corps peut être un clone de l’enveloppe d’origine, ou pas.

Une catégorie de la population échappe à la mort par destruction de la pile : ce sont les « maths » – « maths », pour « Mathusalem ». Il s’agit de la classe dirigeante et opulente du Protectorat. Les données de leur pile sont régulièrement sauvegardées dans des satellites. Ainsi, en cas de destruction de la pile d’un ou d’une math, les données sont transférées dans une nouvelle pile. Il ne manquera que les derniers souvenirs de l’individu, ceux qui n’ont été enregistrés qu’après la dernière sauvegarde à distance… Mais cela ne trouble pas trop les personnages. Pour eux, l’idée d’immortalité et de continuité de leur être et de leur conscience, de sauvegarde de leur personnalité, de perpétuation de leur identité, est acquise. MAIS… nous verrons qu’il y a plein de mais.

Court extrait de Altered Carbon, S2 ep1 : « des yeux inconnus »

La série soulève implicitement ces deux principales questions :

Première question : Qu’est-ce que l’esprit ? – J’ai envie de dire que la question est vite répondue, dans un premier temps… C’est ce que nous avons fait dans l’épisode 1, pendant une heure, mais sous un angle d’attaque particulier. Il s’agit maintenant de multiplier ces angles !

Deuxième question : Qu’est-ce l’identité d’une personne ? Et c’est peut-être finalement cette deuxième question qui se fait la plus lancinante, en lien avec la première si l’on choisit de définir la personne par son esprit.

♪ tapis : Vangelis, « Chews Eye Lab », OST Blade Runner

Les personnages de la série semblent tous adhérer parfaitement à l’idée que la pile est le support de leur esprit. Ainsi, ils ne sont pas troublés par le fait qu’à chaque mort, le support primordial de leur individualité, qui est leur corps incluant leur cerveau, soit détruit… Cette confiance semblerait évidente si elle provenait de la croyance que l’esprit est une substance à part  qui peut changer de support comme de chemise. Mais ce n’est pas même le cas dans la série et les livres : ils semblent vraiment croire que l’esprit peut consister en des sauvegardes d’informations informatiques, ou du moins se reconstituer à partir de ces sauvegardes (nous chercherons à qualifier cette croyance plus loin).

Cela m’a beaucoup troublée que les personnages s’en soient pas troublés et ne remettent jamais en question l’idée que leur conscience, leur identité, leur intégrité même survivent. Dans le roman, le héros Takeshi Kovacs propose quand même quelques réflexions sur le sujet.

Malgré cette adhésion globale au concept, tous les personnages n’approuvent pas l’usage qui est fait de la pile corticale.
→ il y a la contestation religieuse des néo-catholiques
→ il y a la contestation philosophique, éthique et politique de ceux qu’on appelle les quellistes, qui sont les disciples de la révolutionnaire Quellcrist Falconer.

Mais dans aucun des deux cas, la contestation porte directement sur l’idée même que l’esprit peut être sauvegardé réellement dans une pile, ou que cette sauvegarde permet une réelle perpétuation de l’être.
Les néo-catholiques refusent de ressusciter après leur mort. Leur pile est stockée mais ne peut être réenveloppée. C’est un péché à leurs yeux de s’envelopper dans un corps qui n’est pas celui que Dieu a donné, mais ils ne proposent pas plus de réflexion sur la nature de l’esprit.

L’esprit n’est-il réductible qu’à une somme d’informations binaires ?

C’est la toute première question qui fuse quand on découvre la série, et pour ma part, ce n’était même pas une question MAIS une objection directe… Cela me fait réagir comme Eric Sadin, philosophe français critique des technologies qui nous déshumanisent, dans cet entretien pour Thinkerview du 6 octobre 2020, lorsque sont évoqués le point de singularité technologique, l’intelligence artificielle et la digitalisation de l’esprit humain.

Extraits (verbatim à venir. En gros : « Mon Dieu mais comme c’est absuuuuuurde »)

♪ tapis : Vangelis, « Tales of the Future », OST Blade Runner

Ainsi, quand j’ai commencé le visionnage, la première chose que je me suis dite, en résumé : « C’est n’importe quoi, la mémoire humaine n’a rien à voir avec un ensemble de données informatiques ; l’esprit humain n’est pas un algorithme, et la conscience encore moins. Les qualia n’ont rien à voir avec des paquets de transistors. Du coup, ça craint pour les gens dans Altered Carbon : les personnes meurent sans cesse dans l’illusion de la continuité de leur être. Une illusion mal ficelée, en plus… Elles croient ressusciter, alors que non. On crée à chaque fois une nouvelle personne qui n’est qu’une copie. »

J’ai ensuite enchaîné avec la lecture du roman pour voir comment la question y était traitée, et elle n’est pas traitée très différemment.
En raison de la nature même de l’esprit et la conscience – d’après les définitions que nous en avons données pendant une heure la dernière fois – l’idée même de stocker l’esprit paraît complètement absurde. C’est comme l’idée que les nuages sont en barbe à papa et qu’ils peuvent pleuvoir du chocolat chaud. A la limite, on pourrait essayer de se dire que la pile porte les informations nécessaires à la réémergence de l’esprit depuis une autre enveloppe… Mais même pas. Nous y reviendrons ! Car la question n’est pas du tout évacuée pour autant (sinon, je n’aurais pas envisagé plusieurs émissions dessus…).

Cette terrible imposture à laquelle sont confrontés les personnages a de quoi mettre mal à l’aise (ce qui ne m’a pas empêché de me prendre bien sûr au jeu de l’histoire et d’apprécier beaucoup cette série!). Un sentiment d’effroi surgit face à ce mensonge doublement cruel. Il est cruel pour ces deux raisons :
– parce qu’il fait croire aux personnages qu’ils se perpétuent dans leur être, alors que non.
– parce qu’il tue l’esprit en voulant le réduire à ce qu’il n’est pas.
Ainsi que le dit Merlin dans le film Excalibur de John Boorman, « quand un homme ment, c’est une part de notre monde qu’il assassine. »
Alors voilà, quand on ment sur l’esprit, on le tue un peu.

Ce malaise que j’ai éprouvé m’a rappelé le malaise similaire qu’a provoqué chez moi un certain passage du manga Gunnm de Yukito Kishiro.

♪ tapis : Gustav Holst, « Mars, the bringer of War », The Planets

Gunnm, publié entre 90 et 95, décrit un univers cyberpunk bien plus dur qu’Altered Carbon, une dystopie cauchemardesque – et le manga est très gore, ce qui a été douloureux pour moi parce que j’ai horreur de ça, mais c’était compensé par la qualité des graphismes, la curiosité suscitée par un univers riche et le charme des protagonistes.

Voici le pitch : après une catastrophe causée par la chute d’une météorite, qui a mené l’humanité au bord de l’extinction, le monde se retrouve divisé entre la cité flottante de Zalem, où vit la classe privilégiée, et les bidonvilles qui s’étendent autour de la décharge composée des déchets de Zalem. Ces bidonvilles sont un monde très violent, un monde de non-droit que Zalem exploite.
L’héroïne s’appelle Gally ou Alita selon les versions, et il s’agit d’une cyborg intégrale puisque que le seul élément humain/organique qui demeure est son cerveau. C’est un cerveau humain implanté dans un robot, en somme. Au début de l’histoire, la tête de Gally, inconsciente, est retrouvée, dans la décharge, par un homme qui s’appelle Ido. Cet homme est originaire de Zalem mais s’est exilé dans les bidonvilles. Il donne à Gally un nouveau corps et la ramène à la vie.

Dans cette histoire, le malaise arrive à la fin de la première série de manga, dans le tome 9  – Attention DIVULGATION, qui ne divulgâche pas vraiment, je pense, mais je mets quand même le texte en blanc – quand on découvre qu’Ido – le protecteur bienveillant d’Alita, que l’on pense être un humain complet, n’a plus de cerveau et que son cerveau a été remplacé par une puce. On apprend que Zalem fonctionne par eugénisme.

A leur majorité, les citoyens les plus performants sont sélectionnés. Et quand ils sont sélectionnés, on leur retire leur cerveau, qu’on remplace par une puce. Dans cette puce, leurs souvenirs, leurs traits de personnalité et l’essentiel de leurs compétences intellectuelles sont enregistrés. Mais si on remplace le cerveau par la puce, ce n’est pas pour rien. C’est bien que le cerveau et la puce ne sont pas équivalents. Dans Altered Carbon, on ne remplace pas le cerveau, déjà – le cerveau demeure. La puce, c’est juste une espèce sauvegarde du cerveau – je pense que c’est comme un petit cerveau annexe qui convertit la configuration du vrai cerveau en données informatiques qu’elle va sauvegarder. Le but, c’est de préserver l’esprit, ou en tout cas des données qui permettent de simuler l’esprit ou de produire une copie de l’esprit dans un autre corps. Dans Gunnm, le but, ce n’est pas ça. Le but, c’est de rendre les citoyens de Zalem plus dociles et plus prévisibles. Le but, c’est de les dépouiller d’une part de leur liberté – et j’ajouterais de les dépouiller d’une grande part de leur créativité et de leur humanité.

D’un côté, dans Gunnm, on a des cerveaux implantés dans des corps artificiels – des cyborgs intégraux d’une certaine manière, comme Alita ; et de l’autre côté, on a des corps humains normaux auxquels il ne manque que le cerveau, remplacé par une puce qui fait illusion mais qui limite l’individu.

Gally devant Zalem

On peut se demander quelle est la configuration qui permet de perpétuer le mieux l’identité de l’individu. Aucune des deux configurations ne peut le permettre parfaitement… Mais en tout cas, il semble qu’Alita, cyborg au cerveau humain préservé, soit le personnage le plus humain de toute la série. L’héroïne de Ghost in the Shell, le Major Kusanagi, est également une cyborg dont le seul élément humain qui demeure est son cerveau. Ghost in the Shell est un autre monument du cyberpunk des années 90. Il décrit un futur proche où les augmentations cybernétiques par implants sur les êtres humains deviennent chose commune. Ces implants, outre d’augmenter certaines capacités, permettent de se connecter mentalement au réseau d’informations. Le Major Kusanagi représente une étape supplémentaire dans l’évolution cybernétique. Elle allie la puissance d’un corps robotique à l’intelligence humaine. Son cerveau ayant été complètement conservé et implanté dans le corps artificiel, Motoko Kusanagi a conservé son ghost, c’est-à-dire son esprit – son esprit transféré dans une nouvelle coquille. Voici un extrait du film de 2017.

Extrait : début du film Ghost in the shell de 2017, lorsque Motoko se réveille dans son nouveau corps.

♪ tapis : Kenji Kawai, « Utai IV, Reawaking », Ghost in the shell, OST du film de 2017

L’existence du ghost apparaît comme étant liée au cerveau… En tout cas, c’est parce que le Major a conservé un cerveau humain qu’elle a conservé son ghost. Cependant, le ghost peut voyager. Il peut être envoyé en plongée dans un autre corps (indépendamment du cerveau), et il peut même aller visiter un autre ghost. De plus, les humains comme les cyborgs ont un ghost qui peut être piraté. Bien qu’ayant en théorie conservé son ghost, le Major s’interroge sur ce qui fait son humanité. Voici ce que Kusanagi partage avec nous suite à la fameuse scène de la plongée sous-marine, dans le premier film de Mamoru Oshii : extrait du film de Mamoru Oshii, dialogue après la scène de la plongée.

♪ tapis : Kenji Kawai, « Chant III », Ghost in the Shell, OST du film de 1995

Première approche du dualisme et du monisme : dualisme/monisme informatique et monisme /dualisme émergentiste

Dans Altered Carbon comme dans Ghost in the Shell, les personnages semblent adhérer à une première sorte de conception dualiste du corps et de l’esprit. Le dualisme, c’est l’idée que l’esprit et la matière, ce n’est pas la même chose. Mais « chose », ça ne veut rien dire. Tout dépend de quelle « chose » on parle. Il y a donc des dualismes différents, et nous les étirerons en éventail dans l’épisode 3.

Pour ce dualisme-là, le corps, c’est le matériel. On pourrait le comparer au hardware d’un ordinateur. C’est une enveloppe qui se contente de lire l’information. L’information, c’est l’esprit, c’est le logiciel, le software. L’esprit est alors conçu comme étant réductible à un ensemble de données informatiques. C’est de l’information pure, et peu importe le matériel qui la stocke ou la lit, même si pour exister cette information a forcément besoin du matériel. En effet, le purement dématérialisé n’existe pas… (Il est toujours utile de rappeler que nos données informatiques sont toujours stockées quelque part, et que les data center représentent du matériel lourd qui consomme beaucoup d’énergie…)

Ainsi, dans Altered Carbon, l’esprit dans le corps, c’est un logiciel fantôme dans une coquille. Sauf que le fantôme d’Altered Carbon n’est pas un esprit au sens d’une substance spirituelle qui serait indépendante de la matière. C’est la limite de ce dualisme informatique… Cet esprit n’existe pas sans la matière. La conception de l’esprit y est, finalement, très matérialiste et réductionniste… En cela, on a une sorte de monisme quand même, d’un certain point de vue.

Le monisme, c’est l’inverse du dualisme. On considère que l’esprit et la matière, c’est la même chose. Mais « chose », ça ne veut rien dire. Tout dépend de quelle « chose » on parle. Il y a donc des monismes différents, et nous les étirerons en éventail plus tard.

Comme il y a des dualismes et des monismes différents, on peut s’amuser à combiner des dualismes et des monismes compatibles.

Dans cette conception informatique du corps et de l’esprit, on a un dualisme de nature (l’esprit, c’est juste de l’information, et pas de la matière), mais un monisme de substance (l’information a besoin d’un support matériel pour être stockée et lue).

Le neurospychiatre spinoziste Antonio Damasio s’oppose à ce genre conception informatique de l’esprit, même si le monisme matériel est commun aux deux conceptions. Selon Antonio Damasio, la vie et l’esprit qui en émergent ne peuvent pas du tout être comparés, d’une manière pertinente, à du matériel et du logiciel informatiques. Pas du tout. Il nous l’explique dans ses ouvrages, et défend de nouveau cette idée dans L’Ordre étrange des choses. Le psychologue Olivier Houdé, que nous avons évoqué dans les émissions précédentes pour sa définition de l’intelligence par l’inhibition créative, a d’ailleurs intitulé l’un de ses ouvrages L’intelligence humaine n’est pas un algorithme.

Aux yeux des biologistes, neurobiologistes, neuropsychiatres émergentistes, l’esprit trouve ses racines dans les mécanismes biologiques les plus anciens à l’œuvre dans notre corps. L’esprit émerge d’une sophistication de ces mécanismes, permise par l’apparition des systèmes nerveux et leur complexification.

Lors de la première saison, nous avons tracé les linéaments de la théorie de l’émergence, que l’on peut grossièrement résumer ainsi : tout est plus que la somme des parties. Lorsque les éléments d’un système sont reliés entre eux par un nombre suffisant de connexions, un niveau d’organisation supérieur émerge. Et ce nouveau niveau d’organisation est caractérisé par un comportement nouveau ; il semble obéir à des règles nouvelles qui n’existaient pas avant. Des règles qui apparaissent avec l’augmentation de la complexité.

♪ tapis : Alan Stivell, « Purple Moon », album Amzer

De notre système nerveux complexe appartenant à un corps vivant, a émergé un nouveau monde : le monde psychique. L’esprit, le psychisme, constitue un nouveau domaine de complexité.

Le psychisme résulte d’un certain degré d’organisation, qui suit des lois qui lui sont propres : des lois émergentes. C’est-à-dire que ces lois ne peuvent se déduire des lois qui régissent les simples composants du système. Les lois émergentes du psychisme ne peuvent pas, en suivant la théorie de l’émergence, se déduire des lois qui régissent les réseaux de neurones, qui elles-mêmes ne peuvent pas se déduire des lois de la chimie et de la physique.

Pour cette conception émergentiste de l’esprit issu des sciences contemporaines, le corps et l’esprit ne sont pas séparables. Le corps vivant produit des émotions que le système nerveux perçoit. Une émotion, c’est notre état à un moment donné. C’est l’état de la régulation des processus à l’œuvre dans notre corps pour rester vivant et bien vivant.

La perception de ces émotions, c’est ce qu’on appelle les sentiments, ces sentiments qui sont les éléments fondamentaux de notre esprit. Ainsi, s’il n’y a pas de corps, il n’y a pas d’émotions. Pas d’émotions, pas de sentiments. Pas de sentiments… pas d’esprit.

L’émergentisme semble impliquer un monisme de substance : ça reste matérialiste, de ce point de vue, comme la conception informatique de l’esprit. Mais ce monisme se combine à un dualisme différent du dualisme informatique. En effet, le dualisme informatique est réductionniste : pour lui, l’esprit peut se réduire à une somme de données informatiques, qui correspondent à l’organisation physique du système nerveux voire du seul cerveau. Cette organisation est traductible en données pures, peu importe qu’elle soit portée par le cerveau ou un support artificiel qui n’a rien à voir avec un corps vivant.

Dans l’émergentisme, on a un dualisme de propriété. Ce dualisme là n’est pas réductionniste. L’esprit naît avec ses propres lois, avec ses propres propriétés, qui ne se réduisent à celles du réseau de neurones. Certes, ce sont des lois émergées de la complexification d’un réseau nerveux qui gère de l’information ; mais n’importe quel réseau gérant de l’information ne ferait pas l’affaire, quelle que soit sa complexité. Ces domaines de complexité – nerveux puis mentaux –  émergent nécessairement d’un autre domaine de complexité : celui du vivant et de l’émotion.

Pour cultiver nos émotions et laisser reposer la pâte ce que nous venons de dire, je vous propose maintenant une première pause musicale avec Morcheeba et Benjamin Biolay : Paris sur Mer.

♪♪♪ pause musicale : Morcheeba et Benjamin Biolay, « Paris sur Mer », Blaze Away

Extrait : Altered Carbon saison 1, lorsque le « math » Lorens Bancroft évoque le satellite qui stocke ses sauvegardes.

♪ tapis : Alan Stivell, « La harpe, l’eau, le vent (A) », Au-delà des mots

Nous avons dit que le domaine de complexité du psychisme – le monde mental – émerge nécessairement d’un autre domaine de complexité : celui du vivant et de l’émotion.

C’est pourquoi l’idée qu’une simple complexification d’algorithmes pourrait permettre l’émergence d’une intelligence artificielle paraît plutôt fausse aujourd’hui, si on entend par intelligence la conscience.

L’intelligence artificielle qui existe aujourd’hui, c’est ce qu’on appelle de l’IA faible… Les prouesses du deep learning – l’apprentissage profond, qui permet par exemple la reconnaissance faciale –  ne cessent de nous étonner, et pourtant, il ne s’agit que d’IA faible, et pas d’IA forte. L’IA faible est une IA qui permet d’imiter un comportement ou une capacité cognitive, mais d’une manière superficielle et restreinte. Elle n’effectue pas de vrais choix et ne crée pas. L’IA forte, au contraire, pourrait prendre des décisions – elle aurait de vrais états cognitifs, elle pourrait réellement comprendre… Et donc, avoir un esprit et une conscience.Pour les partisans de l’IA forte, du seul fait de leur sophistication croissante, les machines devraient finir par acquérir une forme de psychisme. On peut attribuer l’origine de cette idée à Alan Turing et à son fameux test : si une machine donne l’impression d’être capable de penser, alors il faut lui donner le bénéfice du doute et estimer qu’elle est effectivement capable de penser, sans songer à tous les processus sous-tendant réellement la pensée. Une manifestation de la pensée devrait être prise pour de la pensée. Une machine programmée comme il le faudrait devrait pouvoir développer des états cognitifs réels.

Or, la progression de nos connaissances en biologie, le regard renouvelé que nous portons  sur les animaux non-humains – parallèlement à la sophistication des algorithmes – indiquent que les animaux non-humains dotés d’un système nerveux (même un système nerveux plus primitif, ou structuré un peu différemment par divergence dans les fourches de l’évolution) développent un esprit de la même nature que le nôtre. Une intelligence artificielle, aussi sophistiquée soit-elle, ne sera jamais de même nature qu’une intelligence vivante… à moins qu’elle ne s’épanouisse dans un corps répliquant parfaitement un organisme vivant et donc doté d’émotions, comme les androïdes de Philip K. Dick (auxquels il manque toutefois quelque chose, mais c’est une autre histoire, qui a déjà été racontée dans la saison 1). Sans émotions et sans leurs perceptions ; sans plaisir et douleur, sans sentiments ; il n’y a pas d’esprit. Pas d’esprit, pas de conscience. Pas de conscience, pas de prise de décision et pas d’intelligence – au sens d’une intelligence animale, consciente, flexible et créative, telle que nous l’avons définie dans l’épisode précédent avec le psychologue Olivier Houdé.

C’est un peu le mouvement inverse du jugement de Turing : ce qui compte, pour Turing, c’est la surface, c’est la qualité de l’imitation, la qualité de l’illusion donnée par le comportement de la machine. La surface devrait permettre de déduire la réalité de la profondeur.

Or, ce qui compte pour les biologistes tels qu’Antonio Damasio, ce sont d’abord les profondeurs. Ce qui compte, ce n’est pas que l’esprit se manifeste par une intelligence qui semble arriver aux mêmes résultats que la nôtre, des résultats conformes à l’idée que nous nous faisons de l’intelligence… Ce qui compte réellement, c’est que l’esprit émerge d’éléments constitutifs primordiaux tels que les sentiments. Cet esprit peut ensuite se manifester par une intelligence d’abeille, de chat, d’oiseau, de poulpe, de dauphin ou d’humain, peu importe. Ces esprits restent tous dans le même domaine de complexité : celui du psychisme, mais, conformément à l’idée pyramide de la complexité, ils présentent une diversité qui dépasse notre imagination et notre entendement.

Roger Penrose, mathématicien, physicien et philosophe, binôme de Stephen Hawking sur les trous noirs, a soutenu cette position dans son ouvrage L’esprit, l’ordinateur et les lois de la physique : l’esprit n’est pas réductible au calcul, la conscience n’est pas réductible à un algorithme, aussi sophistiqué soit-il.
Ainsi, l’idée de la singularité technologique serait absurde. La singularité technologique, en gros, c’est le moment où l’intelligence artificielle supplante l’intelligence humaine et rebat les cartes des fondements de notre société.

C’est un thème qui inspire aussi la pop culture… Par exemple Terminator, Westworld, Matrix ou encore Ghost in the Shell * sur lequel je reviendrai dans quelques instants. Les transhumanistes partisans de l’IA forte pensent que la singularité technologique est proche.
Mais compte tenu de ce que nous avons dit, cette relèverait du délire, pour adopter le ton d’Eric Sadin. Ce qui ne veut pas dire que l’IA ne serait pas à craindre. Elle le serait bien, mais pour des raisons qui nous occuperont dans quelques épisodes…

*N’oublions pas HAL, l’IA vnr de 2001 : Odyssée de l’espace d’Arthur C. Clarke

L’intelligence artificielle n’est donc pas du tout de même nature que celle de l’intelligence animale-humaine. Cependant nous, êtres humains, avons cette propension à assimiler les comportements que l’on observe à des causes qui nous sont familières. Face à des « robots empathes », nous en arrivons à éprouver de l’empathie pour eux, tandis que eux n’éprouvent rien : ils sont programmés pour donner l’illusion d’’éprouver… C’est un potentiel cauchemar infernal sur lequel nous reviendrons.
Cette assimilation, et l’anthropomorphisme qui peut lui être associé, semble sensée ou réaliste quand elle concerne un ver de terre, bien plus sensée que lorsqu’elle concerne un automate à apparence humaine ou un ordinateur sophistiqué. Concernant les animaux, à choisir, je pense que l’excès d’anthropomorphisme est préférable au mépris à et l’assimilation de l’animal à une machine.

En exagérant, l’idée de Turing me fait penser à cette sorte de pensée magique du golem/du doudou, selon laquelle un objet que l’on façonne pourrait s’animer de force vitale si l’on met suffisamment de soin dans son modelage… et si l’on y ajoute une formule magique pour appeler un esprit afin d’habiter ce corps artificiel, ou bien si l’on attend un éclair pour mettre le système en branle, comme la créature du Dr Frankenstein. Si l’on donne suffisamment de bisous et de câlins, Doudou et Galatée deviendront peut-être vivantes. (j’en ai beaucoup rêvé et souffert étant petite : la question de la vie de mon doudou m’a beaucoup tourmentée… C’est peut-être pour cela que je fais Artborescience.)

Doudou et moi

C’est d’une manière comparable que l’on s’imagine, peut-être, que la complexité d’un réseau artificiel, si elle est suffisante, pourrait permettre l’émergence d’un processus de même nature que celui du psychisme. On se l’imagine parce que ces réseaux ressemblent un peu au cerveau, par certains aspects… mais seulement certains. Et on ne peut pas réduire la complexité du système nerveux humain à seulement ces aspects, qui n’en sont qu’une infime partie.

Pygmalion amoureux de sa statue, Anne-Louis Girodet, 1819, exposé au Musée du Louvre

Christof Koch, dans A la recherche de la conscience, présente des tests qui sont utilisés pour mettre en évidence la conscience des animaux. Selon le neuroscientifique, pour tester la conscience des machines, on ne pourrait pas utiliser les mêmes tests que pour les animaux, puisque « ces artefacts sont construits sur des bases totalement différentes des organismes biologiques ».

♪ tapis : Melody Gardot, « Over The Rainbow », My One And Only Thrill

Je propose l’idée que l’on peut assimiler la nature d’un phénomène au domaine de complexité auquel il appartient (sachant que les frontières d’un « domaine de complexité » ne peuvent pas se découper avec la hache de la rigueur des sciences physiques). Le phénomène « esprit » appartient au domaine de complexité qui émerge du domaine de complexité du système nerveux, qui lui-même émerge du domaine de complexité de la biologie (sans s’y réduire comme l’implique l’idée d’émergence). L’esprit est ainsi défini par son domaine de complexité dans le grand séquoïa de la complexité. Je préfère l’idée d’arbre de complexité à l’idée de pyramide simple, puisque l’image de la pyramide simple suggère une direction unique… contrairement aux arborescences fractales de l’arbre, comme je l’expliquerai en fin de saison dans l’épisode récapitulatif. Les domaines sont indécoupables proprement à la hache parce que le sequoïa de la complexité ressemble à un chou romanesco.

Un brouillon gribouillé pendant les vacances…

Ainsi, un esprit similaire à celui d’un être vivant ne pourrait a priori pas se développer comme – attention DIVULGATION de quelques minutes – comme cette entité Puppetmaster dans Ghost in the Shell. Le Puppetmaster est un pirate informatique à propos duquel enquête le Major. Il se présente comme une entité vivante qui s’est constituée à partir d’un programme informatique de piratage des ghosts. Ce programme aurait acquis un ghost, un psychisme, une conscience en naviguant dans l’océan d’informations du net. Il a également acquis la capacité à occuper des corps cybernétiques. Il réfute le qualificatif d’intelligence artificielle, car il est né spontanément de ce programme en interaction avec l’océan de complexité du réseau. Je n’en dis pas plus, car le Puppermaster est suffisamment éloquent. Voici un petit extrait du film de Mamoru Oshii – ATTENTION, divulgation de la fin du film (verbatim non reporté).

Les formes d’intelligence exotiques que l’on rencontre dans la fiction, issues de structures non-organiques, ne se cantonnent pas aux intelligences artificielles. Je ne me retiens pas d’évoquer le roman L’ogre de l’espace, de Gregory Benford : un esprit émerge spontanément de la structure magnétique d’un trou noir. Le trou noir est conscient et il sillonne l’espace pour… Pour… J’ai suffisamment fait de divulgations pour cet épisode !
Je pense aussi aux films Solaris (je n’ai vu que celui de 2002) et au roman Solaris de Stanislas Lem (que je n’ai pas lu), et au roman Nemesis de Isaac Asimov (que j’ai lu jadis, et beaucoup aimé), dans la même idée.

Bonjour, c’est le gang des esprits chelous. On aimerait une place à la cime du sequoïa romanesco de la complexité, s’il vous plait.

Dans son ouvrage A la recherche de la conscience, Christof Koch se demande s’il est possible qu’un être dépourvu de conscience subjective parvienne à développer une même capacité d’adaptation qu’un être conscient. Il envisage cette possibilité, mais cela exigerait, pense-t-il, un cerveau d’une taille monstrueuse pour contenir tous les agents zombis nécessaires… Et donc, beaucoup d’énergie pour l’alimenter, ce qui ne serait pas du tout un avantage évolutif. En effet, la conscience permet, en quelque sorte, une exploitation plus optimale du cerveau ; elle est le produit d’une organisation supérieure qualitativement parlant. Elle permet d’économiser de l’espace et de l’énergie en transformant les agents zombis déjà existants ou en créant des nouveaux, sans qu’il y ait besoin d’une encore plus monstrueuse quantité d’agents zombis « innés », ou « instinctifs ».
La taille d’un cerveau ne laisse pas présager de la qualité de l’esprit qui en émerge…

Globalement, nous avons défini comme un rapport d’émergence le rapport en corps et esprit. Mais il y a plein de modalités d’influences entre les deux à explorer ! La série et le livre Altered Carbon en mettent certains en évidence… Et nous verrons cela dans le prochain épisode !

♪ tapis : Melody Gardot, « If The Stars Were Mine », version orchestrale, album My One And Only Thrill

Les ouvrages scientifiques :

• Antonio Damasio, L’ordre étrange des choses, Odile Jacob, 2017
• Christof Koch, A la recherche de la conscience, une enquête neurobiologique, Odile Jacob, 2006
• Olivier Houdé, L’intelligence humaine n’est pas un algorithme, Odile Jacob, 2019
• Alan Turing et Jean-Yves Girard, La machine de Turing, Seuil, 1999
• Roger Penrose, L’esprit, l’ordinateur et les lois de la physique, édité chez Dunod, 1992 (un ouvrage passionnant que j’ai lu lorsque j’étais en licence de sciences physiques, donc ça remonte à plus de dix ans… Je n’ai pas eu le temps de le relire pour cette émission, mais j’aimerais pouvoir le faire avant la fin de la saison!)

Références pop culturelles évoquées avec des poids très divers :

• Altered Carbon, le premier roman de la trilogie de Richard Morgan, et la série de Laeta Kalogridis
• Westworld, la série de Jonathan Nolan et Lisa Joy
• Gunnm, le manga de Yukito Kishiro
• Ghost in the shell, le premier film de Mamory Oshii de 1995 et le film de 2017 de Rupert Sanders
• Blade Runner de Ridley Scott et Les androïdes rêvent-ils de moutons électriques de Philip K. Dick, que nous avons déjà convoqués dans les épisodes sur l’émergence de l’esprit
• Terminator, film de James Cameron sorti en 1984
• Matrix, la saga des sœurs Wachowski
• L’ogre de l’espace, roman fascinant de Gregory Benford
• Nemesis, roman fascinant d’Isaac Asimov
• Les films Solaris, 1972 et 2002 (mais je n’ai vu que celui de 2002), adaptés du roman de Stanislaw Lem

Nous avons entendu Eric Sadin, entretien pour Thinkerview datant du 6 octobre 2020. Je n’ai pas encore lu ses essais mais ça fait partie de ma longue liste.

Je vous laisse avec The Souljazz Orchestra, et son titre House of Cards extrait de l’album Chaos Theories