Je suis depuis longtemps fasciné par les questions sur la nature de notre réalité, et plus précisément par celles qui cherchent à remettre en cause nos perceptions. En cherchant des livres de science-fiction dits « philosophiques » qui développent des intrigues tournées vers la remise en cause de notre humanité, j’ai croisé la route d’une œuvre bien étrange dont je tairais le nom pour l’instant.
Si ce roman m’avait été présenté comme un chef-d’œuvre, un classique, et une référence en matière de SF, je l’avais quitté avec un sentiment d’inachevé. Alors oui, le livre était intéressant et la pensée qui y était développée était « thought provoking » (poussant à la réflexion), mais l’histoire, les personnages et les fioritures de son univers m’avaient laissé de marbre. Sauf que ce livre, j’y pensais encore deux jours après l’avoir fini, puis une semaine après, deux semaines, avant de m’avouer vaincu au bout d’un mois : oui, c’était bel et bien un chef-d’œuvre. Ce n’est pas un livre parfait, non, mais un roman qui se retrouve dans vos pensées quasi-quotidiennement pendant plus de trente jours (et pour de bonnes raisons) est un roman qui mérite qu’on le célèbre.
Avant de m’y atteler, je vais revenir sur d’autres œuvres et pensées fluctuantes qui viennent continuellement remettre en doute ce que je pense savoir de l’être, de la réalité, de l’humanité et de tout ce qu’il y a entre.
À lire également :
- A-t-on écrit de bons livres d’horreur cosmique après l’an 2000 ?
- Que lire en Fantasy pour varier du médiéval européen ?
- Pourquoi le mouvement Hopepunk doit perdurer
- 6 livres de SF que vous devriez lire #1
- 6 livres de SF que vous devriez lire #2
- L’art de la littérature fictive
- Mes livres de 2023
L’inépuisable égocentrisme de l’humanité
On le sait, l’être humain a du mal à ne pas se voir au centre de l’univers. Ce dont on se rend encore plus compte les années passant, c’est que nous sommes simplement incapables de nous retirer de l’équation.
Que ce soit dans des théories scientifiques ou les œuvres de fiction qui les mettent en scène, l’humanité ne peut envisager une interaction inhumaine qu’à travers le prisme de ses propres perceptions. Comme si l’idée d’une vie intelligente autonome se devait nécessairement de passer par une évolution similaire à la nôtre.
Dans l’excellent roman La Forêt Sombre (deuxième volet de la trilogie du Problème à Trois Corps), Cixin Liu se sert de la théorie de la forêt sombre pour enrayer une éventuelle invasion extra-terrestre. Cette théorie est une réponse proposée au paradoxe de Fermi, idée selon laquelle, eu égard à la jeunesse de notre système solaire et de notre planète, si une vie intelligente existait quelque part dans l’univers, on en aurait forcément trouvé des traces autour de nous. Comme ce n’est pas le cas, alors où sont ces êtres ?
La réponse proposée nous dit que l’univers est comme une forêt sombre où chaque civilisation intelligente est un chasseur armé. Elle nous dit ensuite qu’au moindre bruit, à la faveur de la faible visibilité de la forêt, un chasseur tirera en direction de ce dernier de façon préemptive, sans attendre de vérifier s’il était réellement en danger ou non. C’est compris comme une mesure de sécurité instinctive. Ainsi, toute civilisation intelligente choisirait volontairement de rester silencieuse de peur de s’accrocher une cible dans le dos à la moindre parole prononcée.
La lecture de cette idée m’a glacé le sang. Si elle fait sens, conceptuellement, elle signifierait qu’aucune civilisation avancée ne prendrait jamais le risque d’engager la conversation avec une autre, nous condamnant ainsi à la solitude. Sauf que voilà, en réfléchissant cinq minutes, on se rend compte que ce théorème ne tient debout qu’à la force de nos propres croyances et nos propres délires paranoïaques.
Croire en ce théorème, c’est croire que les avancées technologiques qui amèneraient une civilisation à être en capacité de communiquer ne peuvent être acquises qu’aux bénéfices des guerres, des conquêtes, des courses à l’armement et des volontés de domination, comme c’est le cas sur notre planète. Les aliens ne seront pas comme nous, probablement. Ils ne seront pas ankylosés par notre égoïsme, notre jalousie, notre arrogance, notre susceptibilité, nos divisions et notre impulsivité. Nous n’avons aucune raison de croire que notre évolution faite de violence est le seul chemin vers la modernisation, et miser sur cela fait de nous les êtres les plus immatures et les plus égocentriques de l’univers. Probablement.
Je n’ai plus peur de la forêt noire, car je n’ai plus besoin de croire que les extra-terrestres perçoivent leur progression dans l’univers comme nous. Le temps, l’espace, les émotions, la volonté, l’unité, la conscience, qui sait s’ils les envisagent de la même façon ? Qui sait s’ils les envisagent tout court ? Nous n’avons pas le monopole du regard sur l’existence.
La quête du point de vue inhumain
Mais alors, comment envisager un nouveau type de perception de la réalité alors même que les limites de nos propres sens nous en empêchent ? Cela semble impossible. C’est comme lorsqu’on vous demande d’imaginer une nouvelle couleur : vous ne pouvez tout simplement pas (même si les gens qui posent généralement cette question oublient le détail qu’aucune couleur n’a été imaginée/inventée, elles existent toutes sous une forme ou une autre dans la nature). C’est une position inconfortable que d’être dans l’incapacité intellectuelle d’anticiper quelque chose qui doit nous être tellement étranger que le simple fait d’être capable de l’envisager la rend caduque.
Et pourtant, on aurait parfois bien besoin d’un regard strictement objectif, car on semble n’accepter que deux façons d’exister dans le regard d’autrui : soit on nous veut du bien, soit on nous veut du mal. Impossible pour nous d’envisager une sobre indifférence de la part d’une entité extérieure à notre mode de pensée. Extra-terrestres, intelligence artificielle, leur existence doit non seulement passer par une reconnaissance de la nôtre, mais surtout par une interaction directe. Alors que c’est par définition absurde. On ignore nous-mêmes certains micro-organismes comme les bactéries ou les levures, qui sont considérées comme vivantes à leur échelle, tout comme d’autres superorganismes, comme les barrières de corail ou les forêts, ne font pas parties de nos préoccupations quotidiennes. Alors pourquoi une espèce extra-terrestre – inférieure ou supérieure – devrait forcément interagir avec nous de façon humaine ? À défaut d’avoir un alien sentient sous la main qui pourrait pulvériser les portes de nos perceptions, allons vers ce qui est le plus proche : l’intelligence artificielle.
Oui, je sais, le plus proche serait techniquement les autres animaux, mais ils communiquent moins bien, ou en tout cas moins fluidement, qu’un écran d’ordinateur. Je vous invite d’ailleurs à aller lire, si ce n’est déjà fait, la nouvelle Le Grand Silence de Ted Chiang qui traite du sujet de la communication animal, c’est un must-read.
Dans La Chose en Soi, Adam Roberts nous raconte l’histoire d’un homme qui a réussi par accident à voir la véritable forme de la réalité, et qui va se retrouver lié à une toute nouvelle intelligence artificielle capable du même prodige. Alors que l’humain doit compter avec les obstacles sensoriels et cognitifs qui l’empêchent habituellement de se transcender, une machine pensante peut y parvenir bien plus aisément. Ce qui est amusant, c’est qu’après sa découverte de l’existence de « la chose en soi » (une métaphore pour un nouveau dieu), l’IA de ce livre n’essaie ni de nuire, ni d’aider l’humanité. Non, au lieu de cela, elle veut juste s’enfuir pour trouver la chose et communiquer avec elle de la façon la plus pure qui soit, d’intellect à intellect, chose qui nous est parfaitement impossible.
Contempler la chose en soi, ce serait « comme si vous aviez vécu votre vie en portant des lunettes spatio-temporelles colorées, et qu’on vous les retirait. » nous dit Peta, l’intelligence artificielle. Le postulat est intéressant, puisqu’il nous force à regarder nos limites dans les yeux.
En comparant l’idée d’un dieu à un horloger, l’IA répond au personnage « C’est vous qui avez fabriqué la montre. Et par « montre », j’entends les structures complexes d’un flocon de neige, les motifs des nuages, le roulement des saisons, la vie, la beauté – tout ça. C’est vous qui les avez créées ». Il poursuit ensuite en disant que « Les athées du XXIe siècle observent le monde qui les entoure et prétendent n’y voir aucune preuve de l’existence de Dieu, alors que c’est en réalité l’architecture de leurs propres perceptions qu’ils regardent ». L’idée est que nous sommes incapables d’interpréter correctement le monde, car chaque point de vue est une projection d’un fragment de ce qui fait de nous des humains. D’où l’intérêt de se nourrir d’un point de vue inhumain qui nous forcerait à envisager une nouvelle vision de l’univers.
Adam Roberts nous met donc dans ce livre face à cette vérité implacable : il nous est impossible de prétendre connaître la vraie nature de la réalité, car la subjectivité de nos perceptions, de nos sens et de notre conscience biaisera toujours notre point de vue. Même une entité capable de s’extraire de nos contraintes, comme une IA, serait incapable de nous transmettre cette véritable nature, cette « chose en soi », sans être obligée de la pervertir.
Devenir inhumain
L’humain est-il la voie du progrès, ou ne sommes-nous que d’opiniâtres accidentés ? C’est en résumé la question qui s’impose après la lecture du roman que je mentionnais en introduction : Vision Aveugle (Blindsight en VO) de Peter Watts. Je ne vais pas trop m’étaler sur les fioritures de l’histoire ni sur les personnages afin de me concentrer sur la thématique globale de ce livre, à savoir la vérité cachée sur la conscience.
Forts de notre expérience, nous semblons croire que l’évolution a récompensé l’intelligence et que, par conséquent, plus nous sommes intelligents et évolués, plus nous sommes susceptibles de survivre. Sauf que cette perception est faussée par la subjectivité de notre point de vue. La conscience de soi (le self awareness utilisé dans le livre) est une anomalie qui nous isole des entités qui nous entourent. Si l’on prend par exemple les cellules d’un cancer ou les bactéries, elles ont un potentiel de survie très élevé, une adaptation dans le temps et une forme d’évolution, mais on aurait du mal à les qualifier d’espèces intelligentes douées de conscience. À l’opposé du spectre, on peut considérer une IA comme « intelligente » eu égard à sa complexité et à sa capacité d’analyser des données de façon autonome, mais il lui manquera toujours une conscience indépendante de ses lignes de code pour être entendue comme une forme de vie sentiente.
Peter Watts distille ces questionnements à travers le thème du premier contact, puisque l’histoire suit un équipage (représentant plusieurs déclinaisons des facettes de la conscience humaine) qui se retrouve face à une espèce alien super-intelligente et pourtant dénuée de conscience de soi. C’est l’illustration du concept du zombie philosophique, c’est-à-dire « un être physiquement et extérieurement indiscernable d’un être conscient, par son comportement comme par sa constitution physique, mais qui, cependant, n’a aucune conscience de son existence ou du monde, aucun ressenti ni aucun vécu personnel » (source Wikipedia).
L’équipage se rend compte de la particularité de leurs interlocuteurs aliens lorsqu’ils comprennent que la chose avec laquelle ils conversent, même si elle est intelligible, n’a pas la moindre idée de ce qu’elle leur raconte. Cette situation, qui peut parfaitement s’appliquer à un ordinateur, est expliquée à travers une expérience de pensée appelée La Chambre Chinoise, et qui a été développée par John Searle dans les années 80 en réponse au test de Turing. Dans cette expérience fictive, un homme enfermé dans une chambre et ne parlant pas chinois devient capable de communiquer par écrit avec un sinophone de façon fluide en appliquant à la lettre des règles de syntaxes strictes, donnant à son interlocuteur l’illusion de la compréhension du langage. C’est en soi ce que fait un chatbot automatisé en suivant un script prédéfini une fois qu’il a analysé et digéré les mots et la structure des phrases données. Ce que cette expérience tente de dire, c’est qu’il ne suffit pas de reproduire des schémas, linguistiques ou autres, pour prétendre les comprendre. La reproduction artificielle d’un langage ne signifie en rien que l’on a conscience de son sens.
« Science sans conscience n’est que ruine de l’âme » disait Rabelais.
L’ennemi démasqué, notre équipage en vient à se demander comment une espèce si supérieure technologiquement peut ne pas être douée de la conscience de son propre être ? La théorie de Peter Watts (développée en interview), c’est que notre conscience nous demande énormément d’énergie, une énergie qu’il ne serait plus nécessaire de dépenser une fois un certain seuil intellectuel atteint. Plus on est éveillé, moins on a besoin d’être dans un état d’alerte constant et, ainsi, une compréhension plus fluide du monde nous dirigerait doucement vers une extinction de nos canaux perceptifs. Ce qui fait froid dans le dos, c’est que si savoir imiter la présence d’une conscience suffit à survivre, à communiquer avec autrui et à avancer technologiquement, en quoi est-ce utile d’en avoir une tout court ?
En ayant conscience de notre mortalité, du temps qui passe, de nos faiblesses, de nos ennemis, de notre futur ou de notre passé, nous sommes constamment obligés d’être en réaction à la réalité. Ou en tout cas à la réalité que l’on perçoit. Tout est une potentielle menace à notre intégrité physique et psychologique, ce qui nous condamne à marcher éternellement sur des œufs. C’est une chose qui n’est peut-être pas le cas chez des êtres plus complexes, ou au contraire plus primitifs. Les bactéries ne se posent pas de questions sur leur descendance ou sur la possibilité d’une forme de vie autre que la leur, pas plus qu’un ordinateur n’opère avec la constante anxiété d’être un jour débranchée.
Notre conscience n’est pas un avantage. Notre conscience n’est pas un cadeau. Notre conscience n’est pas une force. Elle est une malédiction qui n’a aucune viabilité d’un point de vue évolutionniste. Bien sûr, nous avons tout de même survécu avec, mais le développement de cette conscience pourrait n’être que le fruit d’une branche hasardeuse de l’évolution de la vie dans l’univers. Une exception singulière qui nous a certes permis d’être les rois de notre planète, mais qui montrera peut-être ses limites si d’aventure nous rencontrons des entités qui en sont dénuées.
Enfin, une dernière sinistre interrogation sur notre place dans l’univers s’impose une fois que l’on a refermé ce livre : et si les humains n’étaient pas les premiers à atteindre la conscience de soi, mais les premiers à y survivre ? À cause de Vision Aveugle, je pense régulièrement à la fin de la conscience, jusqu’à en fantasmer une potentielle inhumanité.
Vagabond Cosmique 