Le paradoxe de Moravec - Moravec's paradox

Le paradoxe de Moravec est l'observation par les chercheurs en intelligence artificielle et en robotique que, contrairement aux hypothèses traditionnelles, le raisonnement nécessite très peu de calculs, mais les compétences sensorimotrices et de perception nécessitent d'énormes ressources de calcul. Le principe a été articulé par Hans Moravec , Rodney Brooks , Marvin Minsky et d'autres dans les années 1980. Moravec a écrit en 1988, « il est relativement facile de faire en sorte que les ordinateurs présentent des performances de niveau adulte aux tests d'intelligence ou aux dames, et difficile voire impossible de leur donner les compétences d'un enfant d'un an en matière de perception et de mobilité ».

De même, Minsky a souligné que les compétences humaines les plus difficiles à rétroconcevoir sont celles qui se situent en dessous du niveau de conscience. "En général, nous sommes moins conscients de ce que notre esprit fait le mieux", a-t-il écrit, et a ajouté "nous sommes plus conscients des processus simples qui ne fonctionnent pas bien que des processus complexes qui fonctionnent parfaitement". Steven Pinker a écrit "la principale leçon de trente-cinq ans de recherche sur l'IA est que les problèmes difficiles sont faciles et les problèmes faciles sont difficiles."

Dans les années 2020, en raison de la loi de Moore , les ordinateurs étaient des centaines de millions de fois plus rapides que dans les années 1970, et la puissance informatique supplémentaire était enfin suffisante pour commencer à gérer la perception et les compétences sensorielles, comme Moravec l'avait prédit en 1976. En 2017, leader Le chercheur en apprentissage automatique Andrew Ng a présenté une "règle empirique très imparfaite", selon laquelle "presque tout ce qu'un humain typique peut faire avec moins d'une seconde de pensée mentale, nous pouvons probablement maintenant ou dans un avenir proche automatiser à l'aide de l'IA". Il n'y a actuellement aucun consensus sur les tâches dans lesquelles l'IA a tendance à exceller.

La base biologique des compétences humaines

Une explication possible du paradoxe, proposée par Moravec, est basée sur l' évolution . Toutes les compétences humaines sont mises en œuvre biologiquement, à l'aide de machines conçues par le processus de sélection naturelle . Au cours de leur évolution, la sélection naturelle a eu tendance à préserver les améliorations et les optimisations de conception. Plus une compétence est ancienne, plus la sélection naturelle a eu de temps pour améliorer la conception. La pensée abstraite ne s'est développée que très récemment, et par conséquent, il ne faut pas s'attendre à ce que sa mise en œuvre soit particulièrement efficace.

Comme Moravec l' écrit :

Un milliard d'années d'expérience sur la nature du monde et la façon d'y survivre est codée dans les grandes parties sensorielles et motrices hautement évoluées du cerveau humain. Le processus délibéré que nous appelons raisonnement est, je crois, le vernis le plus mince de la pensée humaine, efficace uniquement parce qu'il est soutenu par cette connaissance sensorimotrice beaucoup plus ancienne et beaucoup plus puissante, bien que généralement inconsciente. Nous sommes tous des olympiens prodigieux dans les domaines perceptifs et moteurs, si bons que nous rendons la difficulté facile. La pensée abstraite, cependant, est une nouvelle astuce, peut-être vieille de moins de 100 000 ans. Nous ne l'avons pas encore maîtrisé. Ce n'est pas si intrinsèquement difficile ; il semble juste quand nous le faisons.

Une façon compacte d'exprimer cet argument serait :

  • Nous devrions nous attendre à ce que la difficulté de rétro-ingénierie de toute compétence humaine soit à peu près proportionnelle au temps que cette compétence a évolué chez les animaux.
  • Les compétences humaines les plus anciennes sont en grande partie inconscientes et nous semblent donc sans effort.
  • Par conséquent, nous devrions nous attendre à ce que les compétences qui semblent sans effort soient difficiles à rétroconcevoir, mais les compétences qui nécessitent des efforts peuvent ne pas être nécessairement difficiles à concevoir du tout.

Quelques exemples de compétences qui évoluent depuis des millions d'années : reconnaître un visage, se déplacer dans l'espace, juger des motivations des gens, attraper une balle, reconnaître une voix, se fixer des objectifs appropriés, prêter attention à des choses intéressantes ; tout ce qui concerne la perception, l'attention, la visualisation, la motricité, les compétences sociales, etc.

Quelques exemples de compétences apparues plus récemment : mathématiques, ingénierie, jeux, logique et raisonnement scientifique. Ceux-ci sont difficiles pour nous parce qu'ils ne sont pas ce pour quoi notre corps et notre cerveau ont été principalement développés. Ce sont des compétences et des techniques qui ont été acquises récemment, dans le temps historique, et qui ont eu tout au plus quelques milliers d'années pour être affinées, principalement par l'évolution culturelle.

Influence historique sur l'intelligence artificielle

Au début de la recherche sur l'intelligence artificielle, les principaux chercheurs ont souvent prédit qu'ils seraient capables de créer des machines à penser en quelques décennies seulement (voir histoire de l'intelligence artificielle ). Leur optimisme provenait en partie du fait qu'ils avaient réussi à écrire des programmes qui utilisaient la logique, résolvaient des problèmes d'algèbre et de géométrie et jouaient à des jeux comme les dames et les échecs. La logique et l' algèbre sont difficiles pour les gens et sont considérées comme un signe d'intelligence. De nombreux chercheurs éminents ont supposé qu'après avoir (presque) résolu les problèmes « difficiles », les problèmes « faciles » de la vision et du raisonnement de bon sens allaient bientôt se poser. Ils avaient tort, et l'une des raisons est que ces problèmes ne sont pas faciles du tout, mais incroyablement difficiles. Le fait qu'ils aient résolu des problèmes comme la logique et l'algèbre était sans importance, car ces problèmes sont extrêmement faciles à résoudre pour les machines.

Rodney Brooks explique que, selon les premières recherches sur l'IA, l' intelligence était « mieux caractérisée comme les choses que les hommes scientifiques hautement qualifiés trouvaient difficiles », comme les échecs, l'intégration symbolique , la démonstration de théorèmes mathématiques et la résolution de problèmes complexes d'algèbre de mots. "Les choses que les enfants de quatre ou cinq ans pouvaient faire sans effort, comme distinguer visuellement une tasse de café d'une chaise, ou se promener sur deux jambes, ou trouver le chemin de leur chambre au salon n'étaient pas considérées comme des activités nécessitant des renseignements."

Cela conduirait Brooks à poursuivre une nouvelle direction dans la recherche en intelligence artificielle et en robotique . Il a décidé de construire des machines intelligentes qui n'avaient "pas de cognition. Juste de la détection et de l'action. C'est tout ce que je construirais et laisserais complètement de côté ce que l'on considérait traditionnellement comme l' intelligence de l' intelligence artificielle." Cette nouvelle direction, qu'il a appelée « Nouvelle AI », a eu une grande influence sur la recherche en robotique et l'IA.

De même, les applications d'IA réussies du 21e siècle ne simulent pas la résolution de problèmes « intelligente » étape par étape, elles simulent les jugements rapides et « intuitifs » que les gens utilisent pour reconnaître instantanément et automatiquement les modèles et les anomalies.

Accueil

Le linguiste et chercheur en sciences cognitives Steven Pinker considère qu'il s'agit de la principale leçon découverte par les chercheurs en IA. Dans son livre de 1994 The Language Instinct , il écrit :

La principale leçon de trente-cinq ans de recherche sur l'IA est que les problèmes difficiles sont faciles et les problèmes faciles sont difficiles. Les capacités mentales d'un enfant de quatre ans que nous tenons pour acquises - reconnaître un visage, soulever un crayon, traverser une pièce, répondre à une question - résolvent en fait certains des problèmes d'ingénierie les plus difficiles jamais conçus... Comme le nouveau génération d'appareils intelligents apparaît, ce seront les analystes boursiers, les ingénieurs pétrochimiques et les membres des commissions des libérations conditionnelles qui risquent d'être remplacés par des machines. Les jardiniers, réceptionnistes et cuisiniers sont en sécurité dans leur travail pour les décennies à venir.

Voir également

Remarques

Les références

Bibliographie

Liens externes