29.3.10

146 - Paradoxe de Moravec

Au lendemain de la guerre, dans la foulée de l'apparition de l'ordinateur, les premiers informaticiens ont pour but de construire une machine intelligente, capable de reproduire les capacités du cerveau humain. Il pensent que cet objectif est à leur portée, et imaginent résoudre à brève échéance des problèmes plus simples tels que la traduction automatique. 70 ans plus tard, on a quasiment renoncé à l'idée d'automatiser entièrement la traduction, et malgré le progrès exponentiel des capacités de traitement, la machine « intelligente » reste au rayon SF, pas très loin de la téléportation et du voyage dans le temps.

Qu'est-ce qui s'est passé ? Les cybernéticiens des années 40 et 50 se sont heurtés de plein fouet au paradoxe de Moravec. Qui est Hans Moravec ? Pas un luddite en tous cas... Il enseigne la robotique à Carnegie Mellon et écrit sur  la technologie en général et les robots en particulier. Dans son domaine, c'est même un optimiste puisqu'il considère qu'on aura construit une machine « fully intelligent » avant 2050..

Mais revenons au paradoxe. Enoncé dans les années 80, le paradoxe de Moravec explique pourquoi les rapides succès de l'informatique naissante en matière de calcul et de logique ne se sont pas étendus aux autres domaines de l'intelligence :
It is comparatively easy to make computers exhibit adult level performance on intelligence tests or playing checkers, and difficult or impossible to give them the skills of a one-year-old when it comes to perception and mobility." (1)
Pour un ingénieur des années 50, la pensée rationnelle et calculatoire incarnée par les échecs ou l'utilisation de la logique formelle et des mathématiques, c'est l'essence même de la pensée, son stade adulte. Le reste, les histoires de langage naturel et de bon sens, c'est de l'intendance. Normal alors de s'imaginer que les cerveaux électroniques qui excellent déjà en calcul et commencent à jouer passablement aux échecs, ne font faire qu'une bouchée des formes plus modestes de l'intelligence. Et, bien sûr, c'est le contraire qui se produit. 

En 2010, l'ordinateur est champion du monde d'échecs mais n'est toujours pas capable de devenir plombier, ni même de tenir une conversation de bistrot décente. Cruelle déception pour nos cybernéticiens pour qui l'essence de la pensée humaine était nichée quelque part dans les ethers de la haute mathématique... Il semble bien en fin de compte que cette essence - si essence il y a - ait plus à voir avec le langage naturel et ce bon vieux sens commun. 

Dans un livre de 1994, le psychologue Steven Pinker apporte au paradoxe de Moravec un complément qu'on pourrait baptiser corollaire du jardinier et qui tranche de façon amusante avec la vulgate qui affirme que les métiers du futur seront toujours plus complexes, plus qualifiés et plus abstraits :
The main lesson of thirty-five years of AI research is that the hard problems are easy and the easy problems are hard. The mental abilities of a four-year-old that we take for granted – recognizing a face, lifting a pencil, walking across a room, answering a question – in fact solve some of the hardest engineering problems ever conceived.... As the new generation of intelligent devices appears, it will be the stock analysts and petrochemical engineers and parole board members who are in danger of being replaced by machines. The gardeners, receptionists, and cooks are secure in their jobs for decades to come. (2)


(1) Wikipedia - Moravec's paradox
(1) Steven Pinker - The language instinct, 1994, cité par Wikipedia.

13 commentaires:

Anonyme a dit…

Tout ce qui est dit là n'est en rien nouveau. Même écrit en anglais.

Tom Roud a dit…

Même les scientifiques sont en danger :
http://tomroud.com/2009/04/09/le-meilleur-des-mondes-scientifiques/

et pour rebondir sur ce que je disais à la fin de ce billet, l'intelligence de l'enfant de 4 ans qu'on n'arrive pas à reprogrammer est dans sa curiosité, dans sa capacité à recombiner des informations pour créer une question neuve. Et ça, effectivement, on n'est pas près de le programmer

dvanw a dit…

Cher Anonyme, merci pour le commentaire. Mais si j'avais imaginé que le paradoxe de Moravec était le dernier cri en matière d'IA, je ne préciserais pas qu'il a été formulé dans les années 80.

Cher Tom, merci pour le lien vers ton billet. Passionnant comme d'hab ! J'ai l'impression en effet que les scientifiques ne sont pas près de perdre leur job à cause des dernières trouvailles d'Intel. Pour les analystes financiers, par contre, je suis moins sur... Un bon gros processeur quadricœur avec une Rollex ne pourrait sans doute pas faire pire que nos experts surdiplômés et surpayés d'aujourdhui !

Zeru a dit…

Je crois surtout que le "corolaire" assez évident du paradoxe de Moravec est que la classification des problèmes est mauvaise (quand un "corolaire" de l'énoncé tue ce dernier, on appelle ça comment ?). Les problèmes qui paraissent simples le sont parce que l'inné nous donne les outils pour les traiter.
Dans l'absolu, une interaction humaine avec le monde dans ce qu'il a de plus naturel (perception par exemple) nécessite des paradigmes bien plus complexes que le monde limité généré par les lois des échecs qui ne sont d'ailleurs que des abstractions !

Un truc marrant : si on avait exigé des ordinateurs joueurs d'échecs qu'ils déplacent eux mêmes les pièces sur l'échiquier (ce qui fait partie des échecs finalement), l'humain aurait gardé l'avantage quelques décennies de plus..

JoëlP a dit…

Les bons gros ordi avec une rolex font déjà les cours de la bourse depuis longtemps. L'algorithme semble complexe mais il se résume à "Si tous le monde vend (achète), je vends (j'achète)". Fastoche.

JoëlP a dit…

Quant à l'ane ônyme, on a rien a braire de son avis.

JoëlP a dit…

La preuve que le commentateur officiel de ce blog n'est pas un robot, ce sont les fautes d'orthographe que j'y laisse. J'y peux rien, je suis programmé comme ça, incapable de me relire.

A part ça, de l'eau au moulin de mon commentaire précédent:
http://yro.slashdot.org/story/10/04/19/2114251/SEC-Proposes-Wall-Street-Transparency-Via-Python?from=rss&utm_source=feedburner&utm_medium=feed&utm_campaign=Feed%3A+Slashdot%2Fslashdot+%28Slashdot%29

dvanw a dit…

Merci cher commentateur officiel... Par contre, je n'ai rien compris à ton lien. J'attends que tu fasses un billet sur le sujet pour espérer y capter quèquechose.

JoëlP a dit…

Aie, une fois de plus je suis pris en flagrant délit d'abconsitude. Le lien parle d'utiliser un langage de programmation (Python) pour spécifier des règles de bourse ce qui montre bien que ce genre de problème est finalement facile à résoudre :

The main lesson of thirty-five years of AI research is that the hard problems are easy and the easy problems are hard. (...) As the new generation of intelligent devices appears, it will be the stock analysts and petrochemical engineers and parole board members who are in danger of being replaced by machines.

dvanw a dit…

Je ne sais pas si le délit d'absconsitude est avéré mais, cher commentateur, le diagnostic d'Alzheimer menace... Le texte que tu cites figure déjà (en plus long) dans le billet original !

JoëlP a dit…

Absconsitude et même excès d’ellipsitude.

Je reprends:

Comme le dit ta note, in english, que je ne cite pas à nouvau, les analystes boursiers vont être mis au chômage par des ordiboursicoteurs par ailleurs incapables de faire aussi bien qu’un enfant de deux ans mais qui savent déjà déployer l'algorithme complexe qui se résume à "Si tous le monde vend, je vends". A preuve cet article (lien) qui explique qu’on peut, en langage python expliquer les règles de bourse qui sont donc bien plus simples que de jeter le contenu de son assiette par-dessus bord pour signifier « J’ai assez manger de cette purée trop salée ». En gros je voulais juste illustrer ton propos et le dit paradoxe avec un exemple pris dans le monde des supers intelligents puisque c’est eux qui ont toujours plus de pognon.

Bon, je sens que je m’enfonce. Allez, on oublie tout.

dvanw a dit…

Ak, oké, oké, ça y est j'ai compris... Y a des fois où j'ai l'impression qu'un bon voeux Pentium II ferait mieux que moi !

People&Ideas a dit…

Merci beaucoup pour ce texte interessant que je me suis permis de traduire en grec et de republier sur la page www.peopleandideas.gr [http://peopleandideas.gr/2010/11/09/moravec/]en mettant bien sur toutes les references adequates. Bonne journee et bien amicalement, Phaedra