Le point de vue d'Hubert Dreyfus sur l'intelligence artificielle - Hubert Dreyfus's views on artificial intelligence

Couverture du livre de l'édition de poche de 1979

Hubert Dreyfus était un critique de la recherche sur l' intelligence artificielle . Dans une série d'articles et de livres, dont Alchemy and AI (1965) , What Computers Can't Do ( 1972 ; 1979 ; 1992 ) et Mind over Machine (1986) , il a présenté une évaluation pessimiste des progrès de l'IA et une critique du fondements philosophiques du domaine. Les objections de Dreyfus sont discutées dans la plupart des introductions à la philosophie de l'intelligence artificielle , y compris Russell & Norvig (2003) , le manuel standard de l'IA, et dans Fearn (2007) , une enquête sur la philosophie contemporaine.

Dreyfus a fait valoir que l'intelligence et l'expertise humaines dépendent principalement des processus inconscients plutôt que de la manipulation symbolique consciente , et que ces compétences inconscientes ne peuvent jamais être pleinement capturées dans des règles formelles. Sa critique était basée sur les idées de philosophes continentaux modernes tels que Merleau-Ponty et Heidegger , et était dirigée vers la première vague de recherche sur l'IA qui utilisait des symboles formels de haut niveau pour représenter la réalité et tentait de réduire l'intelligence à la manipulation de symboles.

Lorsque les idées de Dreyfus ont été introduites pour la première fois au milieu des années 1960, elles ont été accueillies avec le ridicule et l'hostilité pure et simple. Dans les années 1980, cependant, nombre de ses perspectives ont été redécouvertes par des chercheurs travaillant dans la robotique et le nouveau domaine du connexionnisme - approches maintenant appelées « sous-symboliques » parce qu'elles évitent l'accent mis par les premières recherches sur l'IA sur les symboles de haut niveau. Au 21e siècle, les approches basées sur les statistiques de l'apprentissage automatique simulent la façon dont le cerveau utilise un processus inconscient pour percevoir, remarquer les anomalies et émettre des jugements rapides. Ces techniques connaissent un grand succès et sont actuellement largement utilisées dans l'industrie et le monde universitaire. L'historien et chercheur en IA Daniel Crevier écrit: "le temps a prouvé l'exactitude et la perspicacité de certains commentaires de Dreyfus." Dreyfus a déclaré en 2007: "Je pense que j'ai gagné et c'est fini - ils ont abandonné."

La critique de Dreyfus

Les promesses grandioses de l'intelligence artificielle

Dans Alchemy and AI (1965) et What Computers Can't Do (1972) , Dreyfus résume l' histoire de l'intelligence artificielle et ridiculise l'optimisme débridé qui imprègne le domaine. Par exemple, Herbert A. Simon , à la suite du succès de son programme General Problem Solver (1957) , a prédit que d'ici 1967:

  1. Un ordinateur serait champion du monde d'échecs.
  2. Un ordinateur découvrirait et prouverait un nouveau théorème mathématique important.
  3. La plupart des théories en psychologie prendront la forme de programmes informatiques.

La presse a rapporté ces prédictions dans des rapports élogieux sur l'arrivée imminente de l'intelligence artificielle.

Dreyfus a estimé que cet optimisme était totalement injustifié. Il croyait qu'ils étaient basés sur de fausses hypothèses sur la nature de l'intelligence humaine. Pamela McCorduck explique la position de Dreyfus:

[Un] grand malentendu explique la confusion du public sur les machines à penser, un malentendu perpétré par les affirmations irréalistes des chercheurs en IA, affirmant que les machines à penser sont déjà là, ou du moins juste au coin de la rue.

Ces prédictions étaient basées sur le succès d'un modèle de «traitement de l'information» de l'esprit, articulé par Newell et Simon dans leur hypothèse de systèmes de symboles physiques , et plus tard développé dans une position philosophique connue sous le nom de computationalisme par des philosophes tels que Jerry Fodor et Hilary Putnam . Croyant qu'ils avaient réussi à simuler le processus essentiel de la pensée humaine avec des programmes simples, cela semblait être une courte étape vers la production de machines entièrement intelligentes. Cependant, Dreyfus a fait valoir que la philosophie, en particulier la philosophie du XXe siècle , avait découvert de graves problèmes avec ce point de vue du traitement de l'information. L'esprit, selon la philosophie moderne, n'a rien à voir avec un ordinateur numérique.

Les quatre hypothèses de Dreyfus sur la recherche en intelligence artificielle

Dans Alchimie et IA et ce que les ordinateurs ne peuvent pas faire , Dreyfus a identifié quatre hypothèses philosophiques qui soutenaient la croyance des premiers chercheurs en IA selon laquelle l'intelligence humaine dépendait de la manipulation de symboles. «Dans chaque cas», écrit Dreyfus, «l'hypothèse est prise par les travailleurs de [AI] comme un axiome, garant des résultats, alors qu'il s'agit en fait d'une hypothèse parmi d'autres, à tester par le succès d'un tel travail».

L'hypothèse biologique
Le cerveau traite les informations dans des opérations discrètes au moyen d'un équivalent biologique d'interrupteurs marche / arrêt.

Au début de la recherche en neurologie , les scientifiques ont réalisé que les neurones se déclenchent par impulsions tout ou rien. Plusieurs chercheurs, tels que Walter Pitts et Warren McCulloch , ont fait valoir que les neurones fonctionnaient de la même manière que les portes logiques booléennes et pourraient donc être imités par des circuits électroniques au niveau du neurone. Lorsque les ordinateurs numériques sont devenus largement utilisés au début des années 50, cet argument a été étendu pour suggérer que le cerveau était un vaste système de symboles physiques , manipulant les symboles binaires de zéro et un. Dreyfus a pu réfuter l'hypothèse biologique en citant des recherches en neurologie qui suggéraient que l'action et le moment de la mise à feu des neurones avaient des composants analogiques. Mais Daniel Crevier observe que "peu de gens soutenaient encore cette croyance au début des années 1970, et personne ne contestait Dreyfus" à propos de l'hypothèse biologique.

L'hypothèse psychologique
L'esprit peut être vu comme un dispositif fonctionnant sur des bribes d'informations selon des règles formelles.

Il a réfuté cette hypothèse en montrant qu'une grande partie de ce que nous «savons» du monde consiste en des attitudes ou des tendances complexes qui nous font pencher vers une interprétation plutôt qu'une autre. Il a fait valoir que, même lorsque nous utilisons des symboles explicites, nous les utilisons dans un contexte inconscient de connaissances de bon sens et que sans ce fond, nos symboles cessent de signifier quoi que ce soit. Ce contexte, selon Dreyfus, n'a pas été implémenté dans les cerveaux individuels en tant que symboles individuels explicites avec des significations individuelles explicites.

L'hypothèse épistémologique
Toutes les connaissances peuvent être formalisées.

Cela concerne la question philosophique de l' épistémologie , ou l'étude de la connaissance . Même si nous convenons que l'hypothèse psychologique est fausse, les chercheurs en IA pourraient encore soutenir (comme l'a fait le fondateur de l'IA John McCarthy ) qu'il est possible pour une machine de traitement de symboles de représenter toutes les connaissances, que les êtres humains représentent ou non les connaissances de la même manière. Dreyfus a fait valoir qu'il n'y a aucune justification à cette hypothèse, car une grande partie de la connaissance humaine n'est pas symbolique.

L'hypothèse ontologique
Le monde est constitué de faits indépendants qui peuvent être représentés par des symboles indépendants

Dreyfus a également identifié une hypothèse plus subtile sur le monde. Les chercheurs en IA (et les futuristes et les écrivains de science-fiction) supposent souvent qu'il n'y a pas de limite aux connaissances scientifiques formelles, car ils supposent que tout phénomène dans l'univers peut être décrit par des symboles ou des théories scientifiques. Cela suppose que tout ce qui existe peut être compris comme des objets, des propriétés d'objets, des classes d'objets, des relations d'objets, etc.: précisément ces choses qui peuvent être décrites par la logique, le langage et les mathématiques. L'étude de l'être ou de l'existence s'appelle l' ontologie , et donc Dreyfus l' appelle l'hypothèse ontologique. Si cela est faux, cela soulève des doutes sur ce que nous pouvons finalement savoir et sur ce que les machines intelligentes pourront finalement nous aider à faire.

Savoir-faire vs savoir-cela: la primauté de l'intuition

Dans Mind Over Machine (1986) , écrit à l'apogée des systèmes experts , Dreyfus a analysé la différence entre l'expertise humaine et les programmes qui prétendaient la capturer. Cela élargissait les idées de Ce que les ordinateurs ne peuvent pas faire , où il avait fait un argument similaire critiquant l' école de « simulation cognitive » de la recherche sur l'IA pratiquée par Allen Newell et Herbert A. Simon dans les années 1960.

Dreyfus a fait valoir que la résolution de problèmes humains et l'expertise dépendent de notre perception du contexte, de ce qui est important et intéressant compte tenu de la situation, plutôt que du processus de recherche à travers des combinaisons de possibilités pour trouver ce dont nous avons besoin. Dreyfus le décrirait en 1986 comme la différence entre «savoir-cela» et «savoir-faire», sur la base de la distinction de Heidegger du présent à la main et du prêt à la main .

Le savoir, c'est notre capacité consciente de résoudre des problèmes étape par étape. Nous utilisons ces compétences lorsque nous rencontrons un problème difficile qui nous oblige à nous arrêter, à prendre du recul et à rechercher des idées une par une. Dans des moments comme celui-ci, les idées deviennent très précises et simples: elles deviennent des symboles sans contexte, que nous manipulons en utilisant la logique et le langage. Ce sont les compétences que Newell et Simon avaient démontrées à la fois avec des expériences psychologiques et des programmes informatiques. Dreyfus a convenu que leurs programmes imitaient adéquatement les compétences qu'il appelle «savoir-cela».

Le savoir-faire, par contre, est la façon dont nous traitons les choses normalement. Nous agissons sans utiliser du tout de raisonnement symbolique conscient, comme lorsque nous reconnaissons un visage, nous conduisons au travail ou trouvons la bonne chose à dire. Il semble que nous sautions simplement à la réponse appropriée, sans envisager aucune alternative. C'est l'essence de l'expertise, a fait valoir Dreyfus: lorsque nos intuitions ont été entraînées au point que nous oublions les règles et simplement «évaluons la situation» et réagissons.

Le sens humain de la situation, selon Dreyfus, est basé sur nos objectifs, nos corps et notre culture - toutes nos intuitions, attitudes et connaissances inconscientes sur le monde. Ce « contexte » ou « fond » ( par rapport à Heidegger de Dasein ) est une forme de connaissances qui ne sont pas stockées dans notre cerveau symboliquement, mais intuitivement une certaine façon. Cela affecte ce que nous remarquons et ce que nous ne remarquons pas, ce que nous attendons et les possibilités que nous ne considérons pas: nous faisons la distinction entre ce qui est essentiel et non essentiel. Les choses qui ne sont pas essentielles sont reléguées à notre «conscience marginale» (empruntant une phrase à William James ): les millions de choses dont nous sommes conscients, mais auxquelles nous ne pensons pas vraiment en ce moment.

Dreyfus ne pense pas que les programmes d'IA, tels qu'ils ont été mis en œuvre dans les années 70 et 80, puissent capturer ce «contexte» ou faire le genre de résolution de problèmes rapide qu'il permet. Il a soutenu que notre connaissance inconsciente ne pourrait jamais être capturée symboliquement. Si l'IA ne pouvait pas trouver un moyen de résoudre ces problèmes, alors c'était voué à l'échec, un exercice de «grimper aux arbres avec les yeux sur la lune».

Histoire

Dreyfus a commencé à formuler sa critique au début des années 1960 alors qu'il était professeur au MIT , alors foyer de recherche sur l'intelligence artificielle. Sa première publication sur le sujet est une objection d'une demi-page à une conférence donnée par Herbert A. Simon au printemps de 1961. Dreyfus était particulièrement dérangé, en tant que philosophe, que les chercheurs en IA semblaient croire qu'ils étaient sur le point de résoudre de nombreux problèmes. problèmes philosophiques de longue date en quelques années, en utilisant des ordinateurs.

Alchimie et intelligence artificielle

En 1965, Dreyfus est embauché (avec l'aide de son frère Stuart Dreyfus ) par Paul Armer pour passer l'été dans les locaux de RAND Corporation à Santa Monica, où il écrira Alchemy and Artificial Intelligence, la première salve de son attaque. Armer avait cru embaucher un critique impartial et a été surpris lorsque Dreyfus a produit un article cinglant destiné à démolir les fondations du champ. (Armer a déclaré qu'il n'était pas au courant de la publication précédente de Dreyfus.) Armer a retardé sa publication, mais s'est finalement rendu compte que "simplement parce qu'il arrivait à une conclusion que vous n'aimiez pas n'était pas une raison de ne pas le publier." Il est finalement sorti sous le nom de RAND Memo et est rapidement devenu un best-seller.

Le journal a carrément ridiculisé la recherche sur l'IA, la comparant à l' alchimie : une tentative malavisée de changer les métaux en or sur la base d'une base théorique qui n'était rien de plus que de la mythologie et des vœux pieux. Il a ridiculisé les prédictions grandioses des principaux chercheurs en IA, prédisant qu'il y avait des limites au-delà desquelles l'IA ne progresserait pas et laissant entendre que ces limites seraient bientôt atteintes.

Réaction

Le journal "a provoqué un tollé", selon Pamela McCorduck. La réponse de la communauté de l'IA était dérisoire et personnelle. Seymour Papert a rejeté un tiers de l'article comme "potins" et a affirmé que chaque citation avait été délibérément sortie de son contexte. Herbert A. Simon a accusé Dreyfus de faire de la «politique» pour pouvoir attacher le nom prestigieux de RAND à ses idées. Simon a dit: "Ce qui me déplaît à ce sujet, c'est le nom RAND attaché à cette poubelle".

Dreyfus, qui a enseigné au MIT , se souvient que ses collègues travaillant dans l'IA «n'osaient pas être vus en train de déjeuner avec moi». Joseph Weizenbaum , l'auteur d' ELIZA , a estimé que le traitement de Dreyfus par ses collègues n'était pas professionnel et enfantin. Bien qu'il ait critiqué ouvertement les positions de Dreyfus, il se souvient: "Je suis devenu le seul membre de la communauté de l'IA à avoir été vu en train de déjeuner avec Dreyfus. Et j'ai délibérément dit clairement que la leur n'était pas la façon de traiter un être humain."

Le papier a fait l'objet d'un court-métrage dans le magazine The New Yorker le 11 juin 1966. L'article mentionnait l'affirmation de Dreyfus selon laquelle, bien que les ordinateurs puissent jouer aux dames, aucun ordinateur ne pouvait encore jouer à une partie d'échecs décente. Il a rapporté avec humour ironique (comme Dreyfus l'avait fait) la victoire d'un enfant de dix ans sur le principal programme d'échecs, avec «encore plus que sa suffisance habituelle».

Dans l' espoir de rétablir la réputation de l' IA, Seymour Papert a organisé un match d'échecs entre Dreyfus et Richard Greenblatt de Mac Hack programme. Dreyfus a perdu, à la grande satisfaction de Papert. Un bulletin de l' Association for Computing Machinery a utilisé le titre:

"Un enfant de dix ans peut battre la machine - Dreyfus: mais la machine peut battre Dreyfus "

Dreyfus s'est plaint dans la presse de ne pas avoir dit qu'un ordinateur ne jouerait jamais aux échecs, ce à quoi Herbert A. Simon a répondu: "Vous devez reconnaître que certains de ceux qui sont mordus par votre prose acérée sont susceptibles, dans leur faiblesse humaine, pour mordre en retour ... puis-je être assez audacieux pour suggérer que vous pourriez bien commencer le refroidissement --- une récupération de votre sens de l'humour étant une bonne première étape. "

Confirmé

Au début des années 1990, plusieurs des opinions radicales de Dreyfus étaient devenues courantes.

Prédictions ratées . Comme Dreyfus l'avait prévu, les prédictions grandioses des premiers chercheurs en IA ne se sont pas réalisées. Les machines entièrement intelligentes (maintenant appelées « IA forte ») ne sont pas apparues au milieu des années 1970 comme prévu. HAL 9000 (dont les capacités de langage naturel, de perception et de résolution de problèmes reposaient sur les conseils et opinions de Marvin Minsky ) n'apparaît pas en 2001. «Les chercheurs en IA», écrit Nicolas Fearn, «ont clairement des explications à faire». Aujourd'hui, les chercheurs sont beaucoup plus réticents à faire le genre de prédictions qui ont été faites au début. (Bien que certains futuristes, comme Ray Kurzweil , soient toujours portés au même genre d'optimisme.)

L'hypothèse biologique , bien commun dans les années quarante et au début des années cinquante, n'était supposé plus par la plupart des chercheurs d' Amnesty International au moment où Dreyfus a publié ce que les ordinateurs ne peut pas faire . Bien que beaucoup soutiennent encore qu'il est essentiel de rétroconcevoir le cerveau en simulant l'action de neurones (comme Ray Kurzweil ou Jeff Hawkins ), ils ne supposent pas que les neurones sont essentiellement numériques, mais plutôt que l'action des neurones analogiques peut être simulée par des machines numériques avec un niveau de précision raisonnable. ( Alan Turing avait fait cette même observation dès 1950.)

L'hypothèse psychologique et les compétences inconscientes . De nombreux chercheurs en IA sont convenus que le raisonnement humain ne consiste pas principalement en une manipulation de symboles de haut niveau. En fait, depuis que Dreyfus a publié ses critiques pour la première fois dans les années 60, la recherche sur l'IA en général s'est éloignée de la manipulation de symboles de haut niveau ou « GOFAI », pour se tourner vers de nouveaux modèles destinés à capturer davantage notre raisonnement inconscient . Daniel Crevier écrit qu'en 1993, contrairement à 1965, les chercheurs en IA «ne faisaient plus l'hypothèse psychologique» et avaient continué à avancer sans elle.

Dans les années 80, ces nouvelles approches « sous-symboliques » comprenaient:

Dans les années 1990 et les premières décennies du 21e siècle, les approches statistiques de l'apprentissage automatique utilisaient des techniques liées à l'économie et aux statistiques pour permettre aux machines de «deviner» - de prendre des décisions et des prédictions inexactes et probabilistes basées sur l'expérience et l'apprentissage. Ces programmes simulent la façon dont nos instincts inconscients sont capables de percevoir, de remarquer les anomalies et de porter des jugements rapides, semblables à ce que Dreyfus appelait «évaluer la situation et réagir», mais ici la «situation» est constituée de vastes quantités de données numériques. Ces techniques connaissent un grand succès et sont actuellement largement utilisées dans l'industrie et le monde universitaire.

Cette recherche a progressé sans aucun lien direct avec le travail de Dreyfus.

Savoir-faire et savoir-cela . La recherche en psychologie et en économie a pu montrer que la spéculation de Dreyfus (et de Heidegger) sur la nature de la résolution de problèmes humains était essentiellement correcte. Daniel Kahnemann et Amos Tversky ont rassemblé une grande quantité de preuves tangibles que les êtres humains utilisent deux méthodes très différentes pour résoudre des problèmes, qu'ils ont appelé «système 1» et «système 2». Le premier système, également connu sous le nom d' inconscient adaptatif , est rapide, intuitif et inconscient. Le système 2 est lent, logique et délibéré. Leurs recherches ont été rassemblées dans le livre Thinking, Fast and Slow , et ont inspiré le livre populaire de Malcolm Gladwell , Blink . Comme pour l'IA, cette recherche était entièrement indépendante de Dreyfus et Heidegger.

Ignoré

Bien que la recherche sur l'IA soit clairement en accord avec Dreyfus, McCorduck a affirmé que "mon impression est que ces progrès ont eu lieu au coup par coup et en réponse à des problèmes difficiles, et ne doivent rien à Dreyfus."

La communauté IA, à quelques exceptions près, a choisi de ne pas répondre directement à Dreyfus. «Il est trop idiot pour être pris au sérieux», a déclaré un chercheur à Pamela McCorduck. Marvin Minsky a dit de Dreyfus (et des autres critiques venant de la philosophie ) qu '«ils se méprennent et devraient être ignorés». Lorsque Dreyfus a étendu Alchemy and AI à la longueur du livre et l'a publié sous le titre What Computers Can't Do en 1972, personne de la communauté de l'IA n'a choisi de répondre (à l'exception de quelques critiques critiques). McCorduck demande "Si Dreyfus est si mal intentionné, pourquoi les gens de l'intelligence artificielle n'ont-ils pas fait plus d'efforts pour le contredire?"

Une partie du problème était le type de philosophie que Dreyfus utilisait dans sa critique. Dreyfus était un expert des philosophes européens modernes (comme Heidegger et Merleau-Ponty ). Les chercheurs en IA des années 1960, en revanche, ont basé leur compréhension de l'esprit humain sur des principes d'ingénierie et des techniques efficaces de résolution de problèmes liés à la science de la gestion . Sur un plan fondamental, ils parlaient une langue différente. Edward Feigenbaum se plaignit: "Que nous offre-t-il? Phénoménologie ! Cette boule de peluches. Cette barbe à papa!" En 1965, il y avait tout simplement un fossé trop grand entre la philosophie européenne et l' intelligence artificielle , un fossé qui a depuis été comblé par les sciences cognitives , le connexionnisme et la recherche en robotique . Il faudrait de nombreuses années avant que les chercheurs en intelligence artificielle soient en mesure de s'attaquer aux problèmes qui étaient importants pour la philosophie continentale, tels que la situation géographique , l' incarnation , la perception et la gestalt .

Un autre problème était qu'il affirmait (ou semblait prétendre) que l'IA ne serait jamais capable de capturer la capacité humaine de comprendre le contexte, la situation ou le but sous la forme de règles. Mais (comme l' expliqueront plus tard Peter Norvig et Stuart Russell ), un argument de cette forme ne peut être gagné: ce n'est pas parce qu'on ne peut imaginer des règles formelles régissant l'intelligence et l'expertise humaines que cela ne signifie pas que de telles règles n'existent pas. Ils citent la réponse d' Alan Turing à tous les arguments similaires à ceux de Dreyfus:

"nous ne pouvons pas nous convaincre si facilement de l'absence de lois de comportement complètes ... Le seul moyen que nous connaissons pour trouver de telles lois est l'observation scientifique, et nous ne connaissons certainement aucune circonstance dans laquelle nous pourrions dire: 'Nous avons suffisamment cherché . Il n’existe pas de telles lois. »"

Dreyfus ne prévoyait pas que les chercheurs en IA se rendraient compte de leur erreur et commenceraient à travailler vers de nouvelles solutions, s'éloignant des méthodes symboliques critiquées par Dreyfus. En 1965, il n'imaginait pas qu'un jour de tels programmes seraient créés, il a donc affirmé que l'IA était impossible. En 1965, les chercheurs en IA n'imaginaient pas que de tels programmes étaient nécessaires, ils affirmaient donc que l'IA était presque terminée. Les deux avaient tort.

Un problème plus grave était l'impression que la critique de Dreyfus était d'une hostilité incorrigible. McCorduck a écrit: "Sa dérision a été si provocante qu'il a éloigné tous ceux qu'il aurait pu éclairer. Et c'est dommage." Daniel Crevier a déclaré que "le temps a prouvé l'exactitude et la perspicacité de certains des commentaires de Dreyfus. S'il les avait formulés de manière moins agressive, les actions constructives qu'ils suggéraient auraient pu être prises beaucoup plus tôt".

Voir également

Remarques

Les références