Pourquoi unique ? Parce qu'il réussit la prouesse d'amener n'importe quel lecteur ayant un peu le goût de l'abstraction et... pas mal d'obstination (750 pages quand même), à se faire une idée assez juste et assez riche (me semble-t-il) du fameux théorème, au travers de tout un tas d'analogies et de transpositions littéraires, musicales et plastiques (d'où les Bach et Escher du titre).
30 ans plus tard, la traduction du dernier livre de Douglas Hofstadter parait en France sous le titre : Je suis une boucle étrange. Et ce livre, d'après son auteur, réaffirme et actualise la principale thèse de Gödel Escher Bach : que ce sont des boucles étranges (...) qui donnent naissance - et bien plus : qui constituent - la conscience et le Moi. Du coup, je me rends compte que j'avais mis de côté, dans ma mémoire, toute une partie du livre...
Commençons par la boucle tout court... C'est un bidule récursif. Un machin qui se construit ou se définit en se référant à lui même. Hofstadter donne toutes sortes d'exemples, depuis le feedback video jusqu'à la suite de Fibonacci, de phénomènes récursifs... Il y en a un que j'aime beaucoup et que Hofstadter ne cite pas, c'est le système d'exploitation « GNU ». GNU est l'acronyme pour Gnu is Not Unix.
Une boucle étrange, dans la terminologie Hofstadterienne, c'est une boucle qui « saute de niveau », qui passe d'un niveau de réalité à un autre, comme dans le fameux dessin d'Escher où on voit une main dessiner une seconde main qui elle-même dessine la première main... Ou comme dans le théorème de Gödel... Eh oui. Nous y voilà.
En très résumé, ce que Gödel a réussi à prouver en 1931, c'est que « tout système formel suffisament complexe comporte des propositions indécidables », c'est à dire qui ne sont ni démontrables ni réfutables. Gödel a découvert le moyen de transposer dans un formalisme mathématique précis une proposition auto-référente équivalente à : « Je ne suis pas démontrable ». Ensuite, de deux choses l'une : soit la proposition est démontrable à l'intérieur du système et on aboutit à une contradiction, qui met tout l'édifice par terre... Soit elle ne l'est pas, et on est bien obligé de reconnaître qu'elle est néanmoins vraie ! Pour réussir cet incroyable tour de passe-passe, Gödel a du traduire en nombres entiers des propositions portant sur les nombres entiers. Saut de niveau. Boucle étrange.
OK. Mais ca n'est pas fini, puisque le livre s'appelle Je suis une boucle étrange. Qu'est-ce que je viens faire là-dedans ?
Est-ce un hasard, se demande Hofstadter, si la seule façon simple d'exprimer la formule de Gödel passe par l'utilisation du pronom «je» (je ne suis pas démontrable) ? A partir de là, il établit un parallèle assez troublant entre ce phénomène de boucle étrange et le fonctionnement de l'esprit humain... L'idée, longuement développée dans le livre (mais pas ici !), est que ce qui se passe dans le cerveau est du même ordre que la construction de Gödel. Lorsque l'esprit devient suffisamment complexe pour s'auto-représenter, il peut sauter un (puis plusieurs) niveaux de réalité. Le je naît de la capacité de l'esprit humain à sauter de niveau à travers la construction de symboles. Je suis ce qui transforme le bricolage électro-chimique de mes neurones en toutes sortes de propositions, y compris en propositions qui (comme celle-ci) portent sur le bricolage électro-chimique de mes neurones.
L'idée est de sortir par le haut du vieux débat déterminisme / libre-arbitre : comment peut-il y avoir «je» dans un monde déterministe de particules et de champs électro-magnétiques ? Hofstadter refuse la position dualiste, qui postule qu'il faudrait ajouter quelquechose aux lois de la physique pour rendre compte de l'esprit humain, et il le fait sans tomber dans un réductionisme déprimant : ce quelque chose d'impalpable, cette substance immatérielle, qu'il appelle « élan vital », elle n'est pas nécessaire. La conscience, dit-il, n'est pas un toit-ouvrant ! Elle n'est pas une option rajoutée par dessus les structures du cerveau.
(1) Gödel, Escher, Bach : préface de l'édition de 1999
(2) Douglas Hofstadter : Je suis une boucle étrange, p.429