thierry-guinhut-litteratures.com

San Millán de la Cogolla, La Rioja.

Photo : T. Guinhut.

Transhumanisme,

Intelligence Artificielle et Robotique :

Entre effroi, enthousiasme et défi éthique.

Thierry Magnin, Luc Ferry,

Laurence Devillers, Louisa Hall.

Thierry Magnin : Penser l’humain au temps de l’homme augmenté, Albin Michel, 306 p, 19 €.

Luc Ferry : La Révolution transhumaniste, Plon, 288 p, 17,90 €.

Laurence Devillers : Des Robots et des hommes, Plon, 240 p, 16,90 €.

Louisa Hall : Rêves de machines,

traduit de l’anglais (Etats-Unis) par Hélène Papot, Gallimard, 384 p, 22 €.

      Et si l’homme disparaissait ? Parce qu’augmenté jusqu’à la démesure ou évacué parmi le pullulement des icônes, des logiciels, des puces biotechnologiques et des robots… L’effroi des conservateurs et traditionalistes, voire réactionnaires, n’est pas moindre que l’enthousiasme, parfois hyperbolique, de scientifiques et théoriciens solutionnistes qui imaginent, à l’horizon d’un futur plus ou moins imminent, un transhumanisme qui changerait les êtres humains en machines puissamment sophistiquées, jusqu’à l’immortalité, et associerait nombre de leurs fonctionnalité intelligentes à des Intelligence Artificielles, voire seraient remplacés par des robots post-humains. Faut-il tempérer ces deux extrémités de la pensée pour la baliser au moyen d’une judicieuse éthique ? C’est ce défi qu’à l’aide des essais de Thierry Magnin, Luc Ferry et Laurence Devillers, sans omettre le roman, dont celui de Louisa Hall, nous tenterons d’éclairer, entre science et philosophie.

      Transhumanisme, Intelligence Artificielle et robotique ont d’abord une histoire littéraire et science-fictionnelle, depuis la menace de Frankenstein[1], en 1818, en passant par l’invention du mot robot par Karel Capek, dans R.U.R.[2], en 1920, jusqu’au cycle d’Asimov, Le Grand Livre des Robots[3], à partir de 1950. Voici, énoncés par ce dernier, les trois lois fondamentales : « Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger. » ; « Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi. » ; « Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la Première ou la Deuxième Loi. » Aujourd’hui les robots pullulent, les Intelligences Artificielles nous cernent, le transhumanisme est au menu du développement humain. Les « GAFAM » (Google, Amazon, Facebook, Apple et Microsoft), mais aussi les « BATX » chinois, investissent en masse au service de ces défis.

      Est-ce penser que d’user d’algorithmes en récoltant nos clics dans ce Big data qui permet d’afficher sur ce site que vous lisez une publicité censée vous intéresser ? C’est cependant là bien le fait d’une intelligence dans la mesure où elle peut adapter ses choix à un profil, même si la connaissance qu’elle en a est bien partielle, voire erronée. Cette intelligence programmée ne pense pas encore par elle-même. Cela dit, est-on sûr de réellement savoir penser par soi-même alors que chacun d’entre nous récolte également des données que nous répétons par préjugé et opinion et qui tiennent lieu de pensée, et que nous dépendons de cent facteurs qui limitent notre libre-arbitre[4] ?

      Cependant conscience et réelle autonomie sont loin d’être au programme quant aux Intelligences Artificielles. Les discours prophétiques et catastrophiques qui voudraient  nous faire croire que l’humanité va être balayée par des ordinateurs superintelligents (comme dans 2001 L’Odyssée de l’espace de Stanley Kubrick), des puces implantées sous la peau ou dans le cortex, contrôlant tout autant notre corps que notre esprit, restent de l’ordre de l’emballement de l’imagination tout autant que de la posture éthique la plus conservatrice.

      Une machine capable de s’améliorer elle-même, de faire advenir du nouveau au-delà de la combinatoire de sa propre banque de donnée, capable d’empathie et de socialisation comme l’est la machine de notre cerveau[5], n’est pas encore à l’ordre du jour, voire des décennies à venir. Ce saut anthropologique et technologique qui mettrait fin à la singularité humaine est peut-être à redouter, mais loin d’être raisonnablement prédictible. À moins d’associer, qui sait, des biocultures neuronales à ces Intelligences Artificielles…

      À cet égard, entre crainte et désir, trois penseurs et techniciens nous projettent vers un peu plus de connaissance, de réflexions et d’éthique.

Thierry Magnin, la prudence chrétienne

      À la croisée des révolutions numériques, technologiques et de l’économie mondialisée, l’exposé de Thierry Magnin est consciencieusement didactique : après quelques exemples de technosciences, il s’agit d’examiner la « tentation transhumaniste » qui rêve de sauver l’humanité, puis de visiter le concept d’ « écologie intégrale », venu du pape François. Ensuite de croiser « biologie et psychisme », ensuite encore de « prendre soin du vivant » en fondant « une éthique des technosciences ». Enfin l’on se propose « une augmentation/réalisation de l’humain ».

      Un « robot humanoïde » peut aujourd’hui être un compagnon de jeu, ou une force militaire. La génomique et la biologie de synthèse peuvent réparer et ranimer des êtres humains ; bras, jambe, œil et oreilles bioniques se substituent aux handicaps ; les nanomédicaments ciblent les zones à soigner quand le Big data actualise et synthétise les informations sur le cancer de façon à optimiser le soin. L’homme est réparé, connecté, bientôt augmenté, jusqu’au cyborg. Les Plantes Génétiquement Modifiées offrent un avenir meilleur à l’agriculture et à l’environnement[6], on brevète une « cellule vivante synthétique ». Les bactéries sont cultivées en vue de biocarburants et autres débouchés, on édite, coupe et colle les gènes des embryons humains pour se débarrasser des maladies génétiques, voire pour choisir le meilleur profil de l’enfant, alors que l’on sait que l’épigénétique étudie la relation entre corps, psychisme et environnement. Les moustiques génétiquement modifiés pourront nous débarrasser du paludisme, de la dengue, de zika. Luttera-t-on ainsi contre Ebola ou le sida ? La « modélisation de la pensée humaine » permettra-t-elle de la conserver toute vive ?

      À la fois prêtre et physicien, Thierry Magnin semble bien placé pour assumer une position et une argumentation éthiques, en particulier sur la question du transhumanisme. S’appuyant sur une « anthropologie chrétienne », il rappelle « la grandeur et la vulnérabilité de la condition humaine », de façon à tenter d’aborder les révolutions technologiques avec sérénité, dans la perspective d’un « chemin d’accomplissement ».

      Loin de se contenter d’un « que dirait Dieu de tout cela ? » il avance une réflexion nuancée. Il fait l’éloge de tout ce qu’apportent les prothèses intelligentes, le génie génétique appliqué au cancer, par exemple. Il est cependant loin d’être aussi laudatif s’il s’agit d’améliorer les capacités d’individus dont la santé n’est pas en cause, s’il s’agit d’ « augmenter » l’homme en ce qui concerne non seulement sa force musculaire, mais aussi ses capacités sensitives, de mémorisation et d’intellection, dans le cadre d’une « anthropotechnie », voire de combattre la mort au point de viser l’immortalité. L’on devine qu’en tant que croyant chrétien, il préfère laisser la maîtrise de l’évolution de l’homme à une autre volonté que la sienne, qu’elle soit divine (surtout) ou darwinienne. Une posthumanité, qui ne connaîtrait ni la maladie ni la mort, serait-elle encore humaine ? Sa certitude de l’invulnérabilité ne l’empêcherait-elle pas de dynamiser son adaptation et sa créativité ?  C’est là la thèse de Thierry Magnin, bien discutable, tant la posture éthique est traditionnaliste, dans la foulée du Pape François, tant il ne laisse pas imaginer combien de terrain de jeu seraient encore plus ouverts à la créativité humaine, malgré les risques inhérents à l’exercice, puisque se poseraient de graves problèmes de surpopulation et de financement des retraites. Mais à nouveaux problèmes, nouvelles solutions, qui sait…

      Cependant s’il est loisible de désobéir à la nature (à Dieu ?) en soignant des maladies, en réparant des blessures, s’il est loisible de se servir des capacités intellectuelles fournies par la nature ou par Dieu pour ce faire, quel absolu empêche de se servir de ses mêmes capacités pour augmenter ces dernières ?

      Au-delà d’une opposition manichéenne entre nature et artifice, ridiculement associés au bien et mal, il faudrait, selon Thierry Magnin, « combattre cette nouvelle banalité du mal[7] qu’est l’automatisation en cours de l’espèce humaine ». Comment ? Mais grâce à la spiritualité, cette part de transcendance qui est en nous, ce rapport au divin qui nous est constitutif, par une « quête de sens », tout en acceptant notre finitude et notre dimension mortelle. En effet, à l’approche de la mort, l’intervention du prêtre qu’est Thierry Magnin peut être une humanité indispensable et génératrice de sérénité. Reste cependant à accorder une validité à une foi, même si utile à cet égard, qui n’est probablement qu’une fiction[8]. En ce dernier cas, l’art peut jouer ce rôle, si l’on considère de surcroit que la machine la plus sophistiquée, la plus éduquée ne saura pas inventer un nouvel art ; quoique… Voilà qui nous invite à la modestie, à accepter peut-être qu’un Léonard de Vinci, un Copernic, un Proust, un Schubert, un Einstein, d’une personnalité totalement nouvelle, puisse être une Intelligence Artificielle suffisamment autonome pour dépasser ses consœurs…

La maturité philosophique de Luc Ferry

      Si Thierry Magnin éclaire la science par la foi religieuse, Luc Ferry l’éclaire plus judicieusement à l’aide de la philosophie. Dans La Révolution transhumaniste, sous-titrée « Comment la technomédecine et l’uberisation du monde vont bouleverser nos vies », il s’appuie sur un humanisme venu des Lumières. Parfois plus précisément documenté, il différencie le transhumanisme « thérapeutique » (qui était le lot de la médecine traditionnelle) et celui de l’ « augmentation ». Dans le cadre des NBIC (« nanotechnologies, biotechnologies, informatique et cognitivisme »)

      Selon Luc Ferry, le développement du transhumanisme, de la technomédecine et « l’hubérisation » sont inéluctables, entraînant des changements de paradigmes, aussi bien mentaux, économiques que sociétaux. Ainsi, entre les apories des bioprogressistes et des bioconservateurs, entre technophilie et technophobie, le philosophe se veut réaliste et ouvert, ce qui ne sont pas les moindres des qualités du philosophe, autant amateur de mythologie[9] que de Kant.

      Que pèse le fantasme d’eugénisme totalitaire, argue-t-il, devant la capacité de modifier le génome humain pour éradiquer une maladie génétique, un cancer, un Alzheimer ? L’eugénisme est déjà une réalité si l’on avorte en cas de trisomie 21, en dépit des crispations idéologiques et religieuses. Là commence ce transhumanisme qui pourrait aller jusqu’à l’hybridation homme-machine.

      Grâce aux avancées scientifiques exponentielles, l’homme s’arroge de plus en plus de liberté devant la fatalité, divine ou naturelle, subie par nos ancêtres, à la faible espérance de vie, aux infirmités nombreuses. Là se séparent « médecine thérapeutique » et « médecine augmentative », ou « méliorative », si l’on veut se doter de plus de force physique, de qualités esthétiques, d’intelligence, de longévité, voire d’immortalité. Devant ces perspectives alléchantes et affolantes, Luc Ferry plaide pour une « régulation », en dépit du « savoir limité des politiques et des opinions publiques ». Certes, mais laquelle ? Sinon, plaide-t-il avec justesse, la liberté individuelle, sans nuire à celle d’autrui, dans la perspective kantienne.

      En une foi technophile, le « solutionnisme » imagine non seulement une accessible immortalité, mais encore que l’Intelligence Artificielle puisse stocker et réactiver mémoire, conscience et action, au point que dans la perspective d’Asimov, nous puissions dépasser l’ère humaine pour accéder à celle des machines. En toute logique, affirmons le droit individuel à augmenter non seulement notre santé, mais nos perspectives physiques (jusqu’à prétendre à la « liberté morphologique »),  intellectuelles, voire morales, qui sait, ajoutons-nous. À cet égard, Luc Ferry examine les arguments en faveur de cette avancée, venus des solutionnistes proche des GAFAM ; mais aussi ceux en défaveur -réactionnaires ?- venus de Jürgen Habermas[10], qui dénonce la perte d’humanité et d’humilité, et de Francis Fukuyama[11], qui dénonce « l’hubris scientifique ». Tous deux préfèrent s’arrêter à la dimension thérapeutique de la médecine. D’autres encore dénoncent une « marchandisation » des enfants, une fracture et une perte de solidarité entre une élite aux pouvoirs accrus et un ramassis d’ « Epsilons », à la façon du Meilleur des mondes d’Aldous Huxley[12]. Sans compter que l’on pourra reprocher à ses parents de ne pas avoir amélioré son capital génétique, même si, argue avec pertinence Luc Ferry, on peut déjà leur reprocher de ne pas avoir fourni un capital culturel nécessaire.

      Transhumanisme, par le biais de la technomédecine, et « ubérisation », donc « économie collaborative » sont plus liés qu’il n’y paraît : « Dans les deux cas, il s’agit de lutter contre les figures traditionnelles de l’aliénation, celle de la loterie naturelle de l’évolution d’un côté […] et de l’autre, celles des intermédiaires qui s’opposent aux relations directes entre particuliers ». Il s’agit bien « d’humanisme démocratique » et de libéralisme, que seuls les vieux croutons (fussent-ils fort jeunes) du luddisme, comme ces casseurs de métiers à tisser qui craignaient de perdre leurs emplois en 1811 et 1831, refuseront, arcboutés sur leurs préjugés idéologiques. Craignons que les fourches caudines des monopoles, des syndicats et in fine de l’Etat, referment leurs dents sur le futur.

      Sur ces questions, Luc Ferry fait preuve d’une ouverture d’esprit remarquable, d’une curiosité intelligente et d’une appétence sensée à l’égard de cette « Révolution transhumaniste ». Etant donné le retard intellectuel français (mais non technique), il s’appuie sur de nombreux auteurs anglo-saxons, sans œillères. En outre, il montre bien que la nouvelle économie Internet et collaborative, de type « Uber », « Blablacar » et autres, ne participe en rien des « délires idéologiques sur la fin du capitalisme » ou de la « fin du travail » (pour contrer Jeremy Rifkin[13]), mais au contraire de l’extension de la sphère marchande, y compris individuelle. Méfions-nous cependant de « l’idéal politique de la régulation », passablement imprécisé par notre auteur.

      L’Intelligence Artificielle permettra-t-elle de rendre obsolètes la plupart des emplois humains, au point de définitivement les remplacer ? Selon le Future of Humanity Institute de l’Université d’Oxford, la réponse est indubitable. Déjà les joueurs d’échecs et de go sont battus par des Intelligences Artificielles, dont les capacités de calcul outrepassent celles des plus talentueux d’entre nous. D’ici moins d’une centaine d’années, la traduction, la manutention, la conduite automobile, la chirurgie, et bien d’autres domaines seront investis par des logiciels et des robots, débarrassant les hommes des tâches pénibles, ou faillibles, pour plus d’exactitude et de sécurité, pour une productivité et un rendement plus performants. Une bonne part de l’humanité sera-t-telle exilée du travail, rendue inutile, voire nuisible en tant qu’elle consommera sans produire ? Reste que dès aujourd’hui l’Allemagne dispose de trois fois plus de robots que la France pour deux fois moins de chômage, la Corée du sud et Singapour cinq fois plus pour cinq fois moins. La tendance vers des emplois restés humains et vers de nouveaux emplois non encore imaginés n’est en effet pas prête de s’éteindre, rendant caduque la thèse de la fin du travail.

      Faut-il aller plus loin que Luc Ferry ? Ajouter donc au libéralisme politique et économique le libéralisme scientifique, dans la tradition des Lumières de Condorcet. Ajouter au surhumain nietzschéen[14] un posthumain qui soit un hyperhumanisme ? Voilà une perspective séduisante, qui ne fera pas l’unanimité.

      Opposer la machine intelligente et la liberté philosophique, comme le fait Luc Ferry, quoique encore juste, est peut-être vain. Pourquoi ne pas imaginer qu’une machine intègre capital génétique augmenté, neurobiologie, histoire personnelle et culturelle, affects et modélisation postalgorythmique du chaos, pour fonder une neuromachine philosophe, ceci évacuant la question de l’origine divine… Une telle machine, capable de se reproduire, efficace à 100% du temps et du savoir, saurait-elle, devrait-elle, éliminer l’humain qui la menacerait ? Qui nous protégera de la tentation de réaliser des hommes augmentés aux desseins maléfiques, des hommes-virus et génocidaire ; sans compter des manipulations génétiques et neuronales aux conséquences imprévues et irréversibles ? Vertige…

Archéologie des robots, didactique et éthique, par Laurence Devillers

      Robots ouvriers, intelligents, affectifs, voire sexuels… Face à ces promesses, voire ces peurs, Laurence Devillers choisit, bien que scientifique et technicienne, de faire précéder sa réflexion, titrée Des Robots et des hommes, par de petites fictions anticipatrices. Elle imagine qu’en 2025, elle aura pour compagne LILY, « robote » capable d’apprentissage et de conversation, une aide considérable pour la famille, les enfants.

      Cependant gardons-nous « d’anthropomorphiser la machine », prévient-elle. Et surtout, se demande-t-elle, de « quelles règles morales » souhaitons-nous munir ces créatures, en fonction de l’intérêt et de la sécurité des humains ? Qui décidera de cette gouvernance ? Des instituts d’Oxford, Cambridge, Berkeley, travaillent sur cette question. Il est d’ailleurs peut-être plus prudent que des scientifiques lecteurs d’Asimov en décident plutôt que nos politiques, dangereusement étatistes et démagogiques.

      Le client et usager du robot, qu’il soit un individu ou un Etat, devra-t-il observer des règles éthiques envers son robot, règles qu’il ne respecte pas lui-même ? De façon à interdire à son presque double technologique, voire biotechnologique, de proférer des appels à la haine, de voler, de tuer. Sans compter le souci du respect de la vie privée, si inquiétant dans le cadre du Big Data, y compris, ajoutons-le, celle du sieur robot. Ainsi, un « robot éthique » pourrait refuser d’exécuter une tâche non conforme à sa programmation, voire à sa balance du bien et du mal. Une telle charte, dans le sillage d’Asimov, a été rédigée en 2007 en Corée du Sud. Laurence Devillers elle-même est membre de la « Commission de Réflexion sur l’Ethique de la Recherche en sciences et technologies du Numérique d’Allistène ». Peut-on imaginer, au niveau européen, mondial, une judicieuse régulation, s’il ne s’agit pas d’un oxymore ?

      Il s’agit également de réfléchir sur la dimension addictive des robots, déjà en marche avec nos chers smartphones. En ce sens l’essai pertinent de Laurence Devillers se propose de contribuer à la nécessité de « construire des compagnons-machines qui respectent nos valeurs[15] humaines et notre bien-être ». Son objectif, technique et pédagogique, est donc de voir surgir des robots empathiques au service de commandements éthiques.

      Elle sait combien les scientifiques concepteurs de robots ont été précédés par les auteurs de science-fiction, de Mary Shelley pour Frankenstein, à van Vogt et Asimov, cet immense précurseur. Combien les mythes ont proliféré, depuis celui de Pygmalion, en passant par le Golem, jusqu’aux héros de mangas japonais, en particulier Goldorak. Combien le cinéma, de Métropolis à L’Odyssée de l’espace a propagé une robotique exponentielle ; jusqu’au fantasme, quand le robot est un tueur psychopathe ou devient amoureux, comme dans Real Humans, cette magnifique série. Ce pourquoi son essai est sous-titré « Mythes, fantasmes et réalités ». Nous savons aussi combien de spécialistes des nouvelles technologies ont nourri leur adolescence au biberon de la science-fiction. Ce qui prouve, s’il en était besoin, qu’une telle littérature -et la littérature toute entière- nourrit la créativité scientifique.

      L’intelligence robotique, au moyen d’algorithmes, est strictement imitative. Mais en apprenant à améliorer ses performances, dans le cadre du « deep learning »,  l’on peut se demander si son contrôle restera possible. Plus fortes physiquement, plus rapides intellectuellement, les machines n’ont pas encore la conscience d’elle-même, ni a fortiori la génialité artistique. Quoique l’intelligence émotionnelle soit bientôt à leur portée. En revanche le robot « Tay » a su tenir des propos racistes ! Il faudra que soit prudente l’hybridation homme machine, que les implants cérébraux connectés soient bien fiables. De plus ne risque-t-on pas de remplacer la décision libre par la prédiction algorythmique…

      Reste à savoir jusqu’à quand les robots échoueront devant le test de Turing qui vise à les différencier des personnes humaines. Le réalisme de Laurence Devillers, en son essai intelligemment didactique et très informé, quoique se répétant parfois, lui permet de ne pas s’engouffrer dans les fantasmes, mais de mettre sous nos yeux les réalités robotiques qui nous entourent. Car les robots accueillent les clients, assistent la chirurgie, comme « Da Vinci », veillent les retraités âgés, comme le « robot-phoque Paro », les autistes et les enfants en déséquilibre psychologique, interviennent à Fukushima, comme « Maestro », ou parmi les drones contre l’Etat Islamique. Au-delà des « robots industriels », nous aurons bientôt nos « robots sociaux », capable de reconnaître et d’interagir avec nos émotions, comme nous avons nos ordinateurs personnels ; et déjà nous parlent des voix pertinentes, depuis « Siri », bientôt des assistants scolaires, mécaniques et néanmoins empathiques, seront doués d’humour.

      Mais aussi un robot garde-frontière en Israël, un « robot anti-émeute en Chine » : dédiés à la sécurité ou à la répression des libertés ? En d’autres termes, ces machines loyales seront comme le couteau, bénignes ou malignes selon les mains qui les tiennent, à moins qu’elles se révoltent pour saccager l’éthique, ou pour imposer une pertinente éthique… Faut-il doter ces soldats, tueurs ou salvateurs, pire ou plus judicieux que l’homme, d’une boite noire ? D’un cervelet éthique ? Saura-t-on rendre impossible leur piratage ?

      Mais aussi des robots humanoïdes sexuels, comme « Samantha », dotée du point G, ou la délicieuse « Orient doll » japonaise, ou encore « Harmony », aux cent caractéristiques physiques au choix et  capable de converser de littérature, d’avoir une personnalité individualisée ; voire plus tard amoureux. Notons que pour l’heure, ils sont féminins, donc plutôt réservés aux hommes, même si rien n’empêche qu’ils soient masculins. On prévoit l’avènement de la prostitution robotisée, libérant peut-être les individus, ou les privant de revenus ; on imagine apprécier la patience et la conformité à nos désirs de ces robots, leur addictive « empathie artificielle », aux dépens de nos contemporains de chair et d’os dont l’empathie est parfois pour le moins grincheuse et pour le plus abjecte…

      Faut-il par conséquent craindre encore une fois un grand remplacement ? Une mise au chômage généralisée ? Une déshumanisation du monde ? Alors que, nous l’avons dit plus haut, les pays les plus dotés en robots ont le chômage le plus bas, qu’une part minime des emplois peut-être robotisée… Qui sait si le besoin d’humain n’en deviendra pas plus vif et vivifiant, si l’exemple des qualités des robots n’encouragera pas l’homme à s’améliorer…

Louisa Hall, le roman au service de l’argumentation

      Le roman, évidemment d’anticipation, peut permette des prédictions sur notre futur, là où nous coexisterons avec des robots. De manière assez originale, mais dans une perspective attendue, Jean-Charles Edouard Boué et François Roche font raconter à un robot les étapes qui ont permis la plus grande activation de l’Intelligence Artificielle. Le roman parle en 2040, avec emphase et persuasion, de la splendide épopée du tout technologique. Enthousiasme tellement autosatisfait, en quelque sorte publicitaire, qu’il finit par s’entendre comme une satire. On devine que la désindustrialisation de parties immenses du monde, les inégalités considérables de la mortalité selon que l’on est riche ou misérable sont les butoirs d’une telle course à la surtechnologie. Il faudrait rétorquer aux auteurs de La Chute de l’empire humain. Mémoires d’un robot[16] que le pire n’est jamais sûr, qu’il y a une certaine facilité à se prétendre Cassandre, et que l’imagination et la créativité humaine, sans compter celle des Intelligences Artificielles et robotiques, n’ont cessé de démentir les prédictions qui sont figés dans des modèles de pensées et de technologies précédentes. Reste que l’élément le plus intéressant de ce roman sous forme d’autobiographie fictive est l’hypothèse selon laquelle nos futurs robots ne sauraient que répéter leur propre passé, donc priveraient l’Histoire de tout futur ; quoique là encore c’est faire bon marché de l’intelligence robotique, d’origine humaine, ne l’oublions pas.

      Plus piquant, plus émouvant, est Rêves machines, de Louisa Hall. Avec elle, on aimera des robots ; au point de devoir les éliminer… La romancière américaine postule ce sacrifice nécessaire. Le roman à thèse ouverte réunit cinq voix à l’origine des machines pensantes, depuis 2040, quand Chinn, le concepteur des plus parfaites intelligences artificielles -au point de singer, voire supplanter l’humanité- purge sa peine en prison.

      Mary Bradford tient son journal de traversée en 1663, partant peupler l’Amérique, aussi son prénom sera celui du premier programme doté d’une mémoire en 1968 par Dettman. Quant à Alan Turing, de 1928 à 1954, il fut le père des ordinateurs. En 2035, Mary3 est la dernière génération de robots qui soit douée d’empathie, remplaçant les « babybots » trop évolués, au point d’avoir volatilisé les relations sociales interhumaines parmi les adolescents, dont Gaby. Sont-ils la solution à la solitude et au besoin d’amour qui taraudent chaque personnage ? En effet, grâce à l’inventeur de « MeetLove », et de « l’équation de la séduction », « des humains et des robots vivaient en couple ».

      Malgré la structure romanesque remarquable, une écriture virtuose adaptée à chaque personnalité, le suspens est un peu sacrifié. Il reste en cette riche matière feuilletée l’éthique conviction, peut-être discutable, selon laquelle l’intelligence artificielle ne peut outrepasser ses limites en affectant d’être humaine. Cela méritait-il qu’une politique tyrannie s’autorise à désaffecter et condamner à mort ces robots parqués dans l’holocauste d’un hangar, en affligeant ceux qui les avaient aimés ? Pourraient-ils être plus sages ou plus effrayants que les hommes ?

      L’Américaine Louisa Hall, née 1982, a su agréger roman historique et science-fiction, roman psychologique et épistolaire. Un journal intime retrouvé, des lettres, le script d’un interrogatoire, d’intimes confessions habitent ce roman polymorphe, ce bel apologue. Mais peut-être faut-il le lire, au-delà d’une condamnation de robots humains, trop humains, comme un geste de tendresse envers les hubots de Real Humans qui deviennent, qui sait, capables d’aimer, de rêver…

     La menace de l’eugénisme porte souvent à confusion, de par la reductio ad hitlerum. Le nazisme pratiquait un eugénisme racial sans aucune base scientifique, en éliminant des vivants souvent plus intelligents et humains qu’eux. Nos scientifiques ne pensent -du moins espérons-le- qu’à un eugénisme positif, permettant à des erreurs et horreurs génétiques de ne pas naître et permettant d’améliorer les humains à naître. Quoiqu’il soit d’abord réservé à une élite, mais c’est le sort de toute innovation, bientôt démocratisée.

      Une inquiétude souvent répétée est celle qui consiste à arguer que face aux Etats ce sont de vastes entreprises multinationales, autour des GAFAM, qui mènent ce combat technologique, en dehors de toute régulation économique et éthique. Baste ! Les Etats ont-ils toujours été aussi vertueux, entre totalitarismes et socialismes ? Que leurs pouvoirs soient battus en brèche par des innovations qu’ils ne sont guère capables de penser ni de mettre en œuvre est bien plutôt une bonne nouvelle. Que l’on sache, c’est le capitalisme libéral qui a permis la prospérité, rarement les Etats. Il y a de nombreux domaines où ces derniers, d’ailleurs bien capables de contrôle citoyen en s’emparant des nouvelles technologies, comme en Chine, gagneraient à être remplacés par d’efficientes Intelligences Artificielles, en particulier la gestion de la fiscalité et du maquis des prestations sociales, ce qui entraînerait de fructueuses économies ! Reste à se demander si l’auteur de ces lignes mériterait d’être remplacé par un robot critique à l’intelligence plus affutée…

      Mon ordinateur constellé d’icônes intelligentes pourrait bientôt écrire à lui seul des bestsellers grâce à des logiciels combinant des recettes éprouvées, ce dont je ne suis en rien capable. Doutons cependant qu’il puisse écrire mes articles critiques, mes essais, mes romans et poèmes puisqu’ils ne sont en rien bestsellers ! Ne doutons pas cependant qu’une certaine uniformité, malgré l’abondance des combinatoires, ne répugne aux gens de culture et de goût. De surcroît, pensons à ces œuvres magistrales, surgies d’aucun horizon d’attente, qui bouleversent la donne, s’imposent planétairement, comme l’imprévisible et politiquement incorrect Lolita de Vladimir Nabokov. N’est-ce pas à des livres de ce tonneau que l’humanité reconnait son originalité et sa dignité ? Et là, ne serait-ce pas l’âme ? Dans R.U.R., de Karel Capek, Hélène demande au Dr Gall : « Et pourquoi vous ne leur feriez pas une âme ? » Voilà ce qu’il répond : « Ce n’est pas en notre pouvoir ». Fabry ajoute : « Ce n’est pas dans notre intérêt[17] ». Il semble pourtant que, dans le cadre du shintoïsme, les Japonais accordent une âme à tout objet, donc à une machine, que les troublants « hubots » de la série Reals Humans soient dotés de cette « âme », mot impropre, trop mystique, et cependant approchant le point de non-retour entre l’homme et le robot…

Thierry Guinhut

Une vie d'écriture et de photographie

 

---

[1] Voir : Lectures du mythe de Frankenstein

[2] Karel Capek : R.U.R., L’Aube, 1998.

[3] Isaac Asimov : Le Grand Livre des robots, Omnibus, 2003.

[4] Voir : Le libre arbitre devant le bien et le mal, réfutation ou nécessité

[5] Voir : Pierre-Marie Lledo : Le Cerveau, la machine et l’humain, Odile Jacob, 2017.

[6] Voir : Tyrannie écologique et suicide économique

[7] Voir : Hannah Arendt, de la banalité du mal à la banalité de la culture

[8] Voir : Pourquoi nous ne sommes pas religieux

[9] Voir : À quoi sert la mythologie ? Luc Ferry : Mythologie et philosophie

[10] Jürgen Habermas : L’Avenir de la nature humaine. Vers un eugénisme libéral ? Gallimard, 2002.

[11] Francis Fukuyama : La Fin de l’homme. Les conséquences de la révolution biotechnique, La Table ronde, 2002.

[12] Voir : Huxley : Du Meilleur des mondes aux Temps futurs

[13] Jeremy Rifkin : La Fin du travail, La Découverte, 1997.

[14] Voir : Bonheurs et trahisons du dictionnaire Nietzsche

[15] Voir : Sens et culture des valeurs, entre sociologie et relativisme

[16] Jean-Charles Edouard Boué et François Roche : La Chute de l’empire humain. Mémoires d’un robot, Grasset.

[17] Karel Capek, ibidem, p 36-37.

 

 

Photo : T Guinhut.