Une machine peut-elle vraiment penser, ou seulement simuler la pensée ? Turing déplace la question : plutôt que de trancher si une machine « pense vraiment », ne suffit-il pas qu'elle parvienne à se faire passer pour un humain dans une conversation ? Searle s'y oppose frontalement avec la chambre chinoise : un système peut manipuler des symboles avec un succès parfait sans jamais rien comprendre à ce qu'il manipule – traiter de l'information et penser sont deux gestes différents. Bostrom pousse l'inquiétude plus loin encore : si une intelligence artificielle venait à dépasser largement la nôtre, la première entité à l'atteindre n'obtiendrait-elle pas un avantage décisif et irréversible sur tout le reste du monde ?