mercredi 17 janvier 2018

Le Golem et la Parole

Un article de 2008 rappelé à ma mémoire par deux récents articles parus autour de la questions de l'intelligence artificielle :

https://www.sciencesetavenir.fr/archeo-paleo/evolution/yuval-noah-harari-auteur-de-homo-deus-sous-peu-les-livres-vous-liront-pendant-que-vous-les-lisez_116577

http://www.lemonde.fr/idees/article/2017/11/30/l-intelligence-artificielle-a-desormais-son-eglise_5222669_3232.html



Le Golem et la Parole, article du 20 juin 2008


«Non, l'avenir n'offre que peu d'espoir à ceux qui s'attendent à ce que nos esclaves mécaniques nous prodiguent un monde où nous pourrons nous passer de penser.» Norbert Wiener

Gershom Scholem rapporte une histoire passionnante dans Le Golem de Prague et le Golem de Rehovot [1], celle de Jérémie et de son fils Sira créant un homme :

«Un des plus anciens texte que nous possédions sur le Golem nous présente le prophète Jérémie méditant sur le Sefer Yetsirah (Livre de la Création). Jérémie entendit alors une voix qui venait du ciel et qui lui disait : «Choisis-toi un associé». Obéissant, il appela son fils Sira et ils étudièrent ensemble le Sefer Yetsirah pendant trois ans. Après cela, ils se mirent à combiner les lettres de l'alphabet suivant les principes kabbalistiques de combinaison, de groupement et de formation des mots et ils créèrent ainsi un homme qui portait sur son visage les lettres YHWH Elohim Emet, ce qui signifie : «Le Seigneur Dieu est vérité». Mais cet homme nouvellement créé avait un couteau dans la main avec lequel il effaça la lettre alef du mot emet ( vérité ) ; il ne resta plus que le mot met ( mort ). Alors Jérémie déchira ses vêtements  (parce que l'inscription était maintenant «Dieu est mort», ce qui est un blasphème), et il dit : «Pourquoi as-tu effacé l'alef du mot emet ?» Il répondit : «Je vais te raconter une parabole. Un architecte avait construit de nombreuses maisons, des villes et des jardins ; personne ne parvenait à imiter son art ni à l'égaler en maîtrise et en habileté jusqu'au jour où deux hommes obtinrent de lui qu'il leur enseignât le secret de son art. Après qu'ils eurent appris comment faire toutes choses comme il fallait, ils ne tardèrent pas à s'emporter contre lui en paroles. Finalement, ils rompirent avec lui et se mirent architectes à leur propre compte. Mais lorsque l'architecte faisait payer une guinée, ils ne demandèrent que dix shillings. Quand les gens s'aperçurent de cette différence, l'artiste perdit son crédit à leurs yeux et ils confièrent leurs commandes à ses disciples qui l'avaient trahi. De même, Dieu vous a créés à son image et vous a formés «dans son moule». Mais maintenant que vous avez créé un homme comme lui, les gens vont dire : il n'y a pas de Dieu dans le monde en dehors de ces deux-là.» Alors Jérémie lui dit : «Comment s'en sortir ?» Il répondit : «Écris l'alphabet en sens inverse avec une concentration intense vers la terre. Mais ne médite pas avec l'idée de construire, comme tu faisais auparavant. Prends la voie inverse.» Ainsi firent-ils, et l'homme devint poussière et cendre devant leurs yeux. »

Ce Golem-ci a la parole. Mais pas le Golem de Prague du rabbi Loew. Le Golem de Prague est ce golem aux ordres du rabbi, golem sans parole animé par le sceau marqué du nom ineffable de Dieu qu'il porte en la bouche. Le Golem de Prague est un esclave qui se voit retiré le papier chaque jour de shabbat. Un jour Loew oubli de lui retirer, et le golem devient fou. Le saint Nom est arraché de sa bouche et il redevientune masse d'argile.

La création de golem apparaît comme un acte créateur similaire à la création divine, mais qui n'est pas aussi parfaite : le golem des hommes ne parle pas. Et sans un contrôle régulier réalisé par l'homme, le golem peut-être un redoutable ennemie de l'humanité.

Le danger lié à l'automate c'est la littéralité. Norbert Wiener nous rappelle à quel point le golem, mais
aussi la lutte contre la simonie, sont des sujets actuels. Le golem ne parle pas, il ne comprend pas la langue des hommes, il agit littéralement aux ordres programmés :

«Le thème de tous ces récits est le danger de la magie. Danger qui provient du fait que la réalisation d'une action magique est une affaire singulièrement littérale, et que si quelque chose vous échoit en tant que demandeur c'est exactement ce que vous avez demandé, et non pas ce que vous auriez dû demander ou ce que vous vouliez dire. Si vous demandez deux cent livres sterling sans préciser que vous ne souhaitez pas les recevoir au prix de la vie de votre fils, vous recevrez deux cent livres sterling, que votre fils vive ou meurt entre-temps. La magie de l'automatisation, et tout particulièrement l'automatisation magique des machines capables d'apprendre, inclinera vraisemblablement vers la même littéralité. Si vous jouez selon certaines règles et que vous programmez la machine dans le but d'obtenir la victoire, vous obtiendrez la victoire et rien d'autre, et la machine ne prêtera attention à aucune autre considération que celles qui assurent la victoire selon les règles. Si vous jouez un jeu de guerre simulée en fonction d'une certaine interprétation conventionnelle de la victoire, la victoire sera le but à atteindre à tout prix, même si cela implique l'extermination de votre camp, à moins qu'une telle condition de survie soit explicitement indiquée dans la définition de la victoire avec laquelle vous avez programmé la machine.»[2]

Et que ce soit en matière de langage de programmation ou de traduction automatisée, nous ne sommes pas sortis de ce traitement littéral des machines. Et si nous en sortions, il faudrait nous confronter à une fort probable "révolte des machines", ces nouveaux esclaves.

La parole, la langue, la pensée, sont ce qui distingue l'homme de la machine. Le Verbe nous fut donné, et il semble bien que nous soyons incapable de le reproduire dans un artefact réalisé par nos mains.

Il y a ici un élément particulièrement intéressant qui ressort : la magie, l'acte de détourner les pouvoirs divins à des fins purement personnelles, se trouve être analysée sur le même plan que l'action littérale de la machine. La magie est dangereuse car littérale. Mais il faudrait se demander si cette littéralité n'est pas à trouver, dans une moindre mesure dans la volonté même de détourner les pouvoirs divins pour servir ses propres fins : le magicien noir ne perçoit pas le bien intrinsèque des pouvoirs divins, et les détournes pour le servir, alors que c'est tout le contraire qui risque d'arriver. Comme la machine qui met tous les moyens possible à sa disposition à la réalisation de son but, quitte à tout détruire, le magicien use des pouvoirs divins pour réaliser ses désirs, sans pour autant percevoir les maux qui le condamne. La technique magique le dépasse.

En somme, l'absence de pensée, de parole, apparaît comme le plus grand des maux. Norbert Wiener le rattache à l'irresponsabilité :

«Derrière le mobile qui pousse l'adorateur de gadget à admirer la machine qui l'affranchit des limites de vitesse et de précisions imposées à l'homme, il existe un autre mobile plus difficile à établir de façon concrète, mais qui néanmoins joue un rôle considérable : c'est le désir d'éviter toute responsabilité personnelle face à une décision dangereuse ou désastreuse, en déplaçant cette responsabilité ailleurs : sur le hasard, sur les supérieurs hiérarchiques e leurs directives indiscutables, ou bien sur un appareil mécanique qu'on ne peut pleinement comprendre. (...) C'est en un tel déni qu'a consisté la défense d'Eichmann (...) Et c'est sans aucun doute ce qui appliquera un baume sur la  conscience du fonctionnaire qui appuiera sur le bouton de la prochaine guerre atomique, quel que soit son camp.»

La référence à Eichmann n'est pas innocente, l'horreur nazie c'est la machine administrative et sociale qui écrase l'homme de sa logique voulue implacable :

«La préparation des victimes et des exécutants que requiert le totalitarisme, à la place du principe d'action de Montesquieu, n'est pas l'idéologie elle-même - le racisme ou le matérialisme dialectique - mais sa logique inhérente. L'argument le plus convaincant à cet égard, un argument que Hitler comme Staline affectionnaient particulièrement, est celui-ci : vous ne pouvez poser A sans poser B et C et ainsi de suite, jusqu'à la fin de l'alphabet du meurtre. C'est ici que la force contraignante de la logique semble avoir sa source ; elle naît de notre peur de nous contredire nous-mêmes.»[3]

La littéralité c'est l'absence de pensée, et cette absence de pensée semble conduire vers toutes les
catastrophes. Dans L'histoire de Jérémie et du golem, une variante des disciples du rabbi Juda le Hassid, le Sefer ha-Gematriot, est tout à fait intéressante : l'élision de la lettre alef du mot emet détruit le golem Il faut ici rappeler que le Pseudo-Sa'adhyah présente le mot emet (vérité) comme celui qui fut utilisé par Dieu lors de la création d'Adam [4]. Or l'essence de l'homme dans la tradition juive, c'est la parole. La parole est donc vérité. La vérité est la parole vivante, ce n'est pas le langage de la machine. Et l'homme, privé de parole, meurt...

L'irresponsabilité de l'homme qui met dans la machine la responsabilité de prendre les décisions à sa
place est une étrange affaire. Le désir absurde de vouloir doter la machine de la parole est bien souvent la conséquence de l'anéantissement de la sienne : «en ce cas tout se passerait comme si notre cerveau, qui constitue la condition physique, matérielle, de nos pensées ne pouvait plus suivre ce que nous faisons, de sorte que désormais nous aurions vraiment besoin de machine pour penser et pour parler à notre place»[5]

Mais dans la première version que nous avons cités du golem de Jérémie, ce n'est pas un golem muet qui meurt suite à l'élision de la lettre alef, c'est Dieu qui meurt, et celui qui l'annonce est un golem qui parle. Autrement dit, si l'homme avait le pouvoir de donner la parole, il deviendrait Dieu à la place de Dieu dans le cœur des autres hommes. Mais il n'a pas fallut attendre que nous donnions la parole aux machines pour que "Dieu soit mort", pour réaliser cela nous avons machinisés l'homme. Si l'homme n'est qu'un mécanisme automatique, alors l'homme produisant des automates est un créateur divin.

La modernité dans sa course à la démonstration de sa puissance prend le chemin le plus rapide : réduire pour saisir. Nous ne pouvons expliquer l'homme scientifiquement, mais nous pouvons expliquer la machine et l'animal (que nous pensons comme machine). Faisons de l'homme un automate corporel et nous pourrons l'expliquer scientifiquement.

De la même manière nous avons réduits le politique à la somme des intérêts individuels, aux études des statisticiens de la sociologie, nous avons découpés la réalité de manière à ce qu'elles
s'adaptent à nos outils.

Étrange Dieu que l'homme, cet être qui réduit son objet d'étude pour se donner l'illusion qu'il en a fait le tour. Dans cette optique, le nouvel homme moderne, décérébré, privé de parole, pourrait bien être la proie de ses propres créatures.

[1] Gershom Scholem, Le Golem de Prague et le Golem de Rehovot in Norbert Wiener's God & Golem Inc. p.118-119, édition l'Éclat.
[2] Norbert Wiener, God & Golem Inc. p.81
[3] Hannah Arendt, Le système totalitaire p.302, éd. Points
[4] http://www.er.uqam.ca/nobel/mts123/nicolas.html
[5] Hannah Arendt, La Condition de l'Homme Moderne, Prologue

Aucun commentaire:

Enregistrer un commentaire