Une machine peut-elle penser ?

Thèse

La question « une machine peut-elle penser ? » est mal posée, car les mots « penser » et « machine » sont trop ambigus pour être définis avec certitude. Turing propose de la remplacer par une question opérationnelle : un ordinateur peut-il, dans un « jeu de l'imitation » (aujourd'hui appelé test de Turing), converser par écrit avec un interrogateur humain de façon si convaincante que celui-ci ne puisse pas distinguer s'il dialogue avec une machine ou avec un être humain ? Si aucune propriété interne n'est directement observable ni chez la machine ni chez autrui, alors le comportement observable devient le seul critère raisonnable pour juger de l'intelligence.

Exemples

• Dans le jeu de l'imitation, un interrogateur humain pose des questions par écrit à deux interlocuteurs cachés – un humain et une machine – sans savoir lequel est lequel ; si la machine parvient à tromper l'interrogateur aussi souvent qu'un humain le ferait, Turing propose de dire qu'elle « pense », au même titre qu'on attribue une pensée à autrui sur la seule base de son comportement observable.
• Turing anticipe et réfute par avance plusieurs objections classiques – l'objection théologique (seul Dieu peut donner une âme pensante), l'objection mathématique (les théorèmes de Gödel limitent ce qu'une machine peut prouver) – estimant qu'aucune ne suffit à exclure définitivement la possibilité qu'une machine future réussisse le test.

Notes

Le « jeu de l'imitation » déplace la question depuis la nature interne de la pensée vers son comportement observable – un pari behavioriste qui préfigure directement l'objection de Searle dans la chambre chinoise : réussir le test suffit-il à comprendre ?

Débat

John Searle : même si une machine réussissait parfaitement le test de Turing, cela ne prouverait pas qu'elle « comprend » réellement quoi que ce soit – l'expérience de pensée de la « chambre chinoise » montre qu'on peut manipuler des symboles selon des règles sans en saisir le sens, purement syntaxiquement. Nagel : réussir un test comportemental ne dit rien de l'expérience subjective éventuelle de la machine – savoir si une machine pense suppose de savoir s'il y a « quelque chose que cela fait » d'être cette machine. Descartes : le langage articulé et adaptable à toute situation est le signe distinctif d'une âme pensante qu'aucune machine, fût-elle très perfectionnée, ne pourrait authentiquement reproduire – une thèse que le pari de Turing prend directement à contre-pied.