RECHERCHE :
Bienvenue sur le site de Michel VOLLE
Powered by picosearch  


Vous êtes libre de copier, distribuer et/ou modifier les documents de ce site, à la seule condition de citer la source.
 GNU Free Documentation License.

Commentaire sur :
Herbert A. Simon, Models of my Life, MIT Press 1996

18 avril 2005


Pour lire un peu plus :

- Karl Popper et le pari de Turing
- La question de l'intelligence des ordinateurs
- The Computer and the Brain
-
Totalement inhumaine

-
L'Amérique en armes
- "Whatever happened to machines that think?"

L’intelligence artificielle m’a toujours été suspecte. Ses inventeurs disaient qu’il n’existe aucune différence entre l’ordinateur et le cerveau humain. Mais c’est contredit par l’expérience. Alors ils disent que s’il existe aujourd’hui une différence, demain elle aura disparu. Mais demain étant hors de portée de l’expérience que l’on peut faire aujourd’hui, et qui seule pourrait invalider une hypothèse, cette affirmation relève non de la science mais de la croyance.

Une croyance ne peut pas faire l’objet d’une démonstration. Cela ne nous empêche pas de fonder nos valeurs, de définir le but de nos vies, sur des croyances. On ne peut donc pas se contenter de les rejeter en disant qu’elles ne sont pas scientifiques.

C’est pourquoi j’ai lu la biographie de Herbert Simon (1916-2001). Quand on veut comprendre un penseur, il ne suffit pas de livre les ouvrages où il expose le résultat de ses recherches ; il faut chercher, en amont de ses affirmations, contre quoi il a voulu polémiquer.

Simon a combattu le postulat de la rationalité des agents économiques sur lequel s’appuie la théorie néoclassique, et développé la théorie (féconde) de la rationalité limitée ; il a combattu le behaviorisme en psychologie qui, considérant le cerveau comme une boîte noire, ne veut connaître que des couples « stimulus – réponse ». 

Dans les deux cas, Simon exige de regarder de près « comment cela marche », comment les décisions se prennent, comment la pensée fonctionne. C’est pour ouvrir la boîte noire dans laquelle les behavioristes enfermaient la pensée qu’il s’est intéressé à l’ordinateur.

En programmant les règles de la démonstration et les procédés heuristiques qui facilitent sa découverte, il a pu faire écrire des démonstrations par l’ordinateur et il est arrivé que l’une d’elles soit plus élégante que celle qu’avaient produite des mathématiciens. Il a par ailleurs montré qu’un ordinateur pouvait jouer aux échecs.

Ainsi Simon ouvrait la boîte noire de la pensée : s’il est pratiquement difficile de suivre les processus qui se déroulent dans un cerveau on peut les observer, dit-il, lorsqu’on les simule sur un ordinateur.

Il a décrit son programme de recherche dans une lettre à sa fille : « Mon travail scientifique, ainsi que celui des autres chercheurs en intelligence artificielle, vise à délimiter ceux des processus de pensée de l’être humain que l’ordinateur peut simuler. Je crois qu’il pourra finalement les simuler tous, mais je ne ressens pas le besoin de le démontrer à ceux qui pensent autrement. Dans le domaine de la science, c’est l’expérience qui répond en définitive[1] ».

Simon pèse toujours exactement ses mots. Il croit que l’ordinateur saura, finalement, penser comme un être humain ; mais comme cela relève de la croyance, il n'en fait pas un sujet de discussion et l’expérience tranchera. Dans l’immédiat – et là il rejoint le terrain de la science – il s’agit d’identifier ceux des processus de pensée que l’ordinateur est capable de simuler.

Or de tels processus existent. Nous n’utilisons pas en effet notre cerveau seulement pour imaginer, créer, synthétiser, expliquer etc. : nous l’utilisons pour classer, calculer, garder en mémoire et – par exemple aux échecs – explorer la combinatoire de plusieurs hypothèses. Or ce sont là des tâches que l’ordinateur remplit aussi bien que nous, ou même mieux.

Lorsque Simon invente l’intelligence artificielle, à la fin des années 50, personne ne savait où se trouvait la limite des possibilités de l’ordinateur. Des préjugés d’inspiration humaniste ou religieuse s’opposaient à ce que l’on envisageât l’articulation entre l’automate et la pensée. La réflexion sur de telles articulations ne manque pas de précédents[2], mais ils étaient oubliés.

A cette époque-là, et confronté à ces préjugés, il était normal que Simon embrassât une opinion extrême - tout comme les Grecs qui, lorsqu’ils découvrirent le monde de la pensée conceptuelle, furent pris d’une telle ivresse qu’ils crurent, avec Platon, que la réalité réside dans les Idées.

Après quelques décennies de cohabitation avec l'ordinateur, l’opinion la plus raisonnable (et la plus répandue),  rejette la croyance à laquelle Simon avait adhéré : nous postulons, comme l’a fait von Neumann, une différence de nature entre l’automate programmable et le cerveau humain, résultat de milliards d’années de mutations et de sélections qui se sont, durant les derniers millions d’années, encore accélérées chez les chasseurs-cueilleurs. Il faut d’ailleurs, pour bien articuler l’automate et l’être humain dans l’organisation, pouvoir clairement définir ce qui fait leur différence.  

Cela ne rend que plus nécessaire la poursuite du programme scientifique de Simon, la délimitation des processus de pensée que l’automate est capable de simuler. Il faut d'ailleurs, pour prendre sa démarche à la racine, se rappeler le dogmatisme étroit des économistes néo-classiques et des psychologues behavioristes qu’il a combattus.

Simon était sensible aux drames qui peuvent survenir dans le monde de la pensée, comme en témoigne le compte rendu de sa conversation avec Karl Menger : « Il avait commencé sa carrière en s'intéressant à la logique et aux fondements des mathématiques. La publication du fameux théorème d'impossibilité de Gödel en 1931 lui porta un coup dont il ne se remit jamais. S’il est impossible, comme Gödel l’a montré, de fonder les mathématiques de façon parfaitement rigoureuse, que devenait la certitude en mathématiques ? Y penser le déprimait et, en me racontant cette histoire, il se renferma peu à peu dans un silence sombre qui dura jusqu'à la fin du repas » (p. 101).


[1] « My own posture has been this: my scientific work, and that of other A. I. researchers, will, in the long run, determine how many of Man’s thinking processes can be simulated. I believe that ultimately all of them can, but feel no great urge to try to prove that to others who feel differently. In science, it is the facts that give us the final answer » (p. 274).

[2] Pendant la Renaissance la relation entre l’écrit et la mémoire a fait l’objet d’une controverse qui a laissé des traces profondes, voir The Art of Memory.