As máquinas não pensam, mas nós gostamos de pensar que pensam. Gostamos da ideia porque achamos que o que uma máquina faz é parecido com coisas que somos capazes de fazer ou que gostaríamos de ser capazes de fazer; e achamos isso porque achamos que tudo o que conseguimos fazer é sinal de pensamento. Mas quando achamos que as máquinas pensam, achamos também que pensam melhor que nós. A imagem que temos dessas máquinas é parecida com a imagem que temos de quem ou daquilo que é capaz de fazer uma coisa que não conseguimos fazer tão bem: de um patinador ou de um pescador de pérolas.

A verdadeira razão por que pensamos que as máquinas são capazes de pensar é porque achamos que somos uma soma de capacidades, isto é, que somos aquilo que somos capazes de fazer. É por isso que imaginamos que a nossa vida consiste em aprender coisas; que a vemos como o aperfeiçoamento de um produto, e que nos vemos como um produto aperfeiçoado.  Contar a nossa história é normalmente anunciar esse produto: tendo começado por gatinhar, conseguimos já correr maratonas inteiras; as casas que fazíamos como um porquinho mais novo fazemo-las agora à prova de lobos; e, uma vez adquirida toda a informação, conseguimos calcular as consequências daquilo que tencionamos fazer e distinguir as boas das más acções, mesmo antes de começar a fazer qualquer coisa.

Imaginar que somos bípedes com capacidades, e somos bípedes com capacidades, não é no entanto imaginar tudo aquilo que somos. Somos também animais que hesitam, que mudam de ideias, que conservam costumes, que recolhem animais, que expulsam pessoas, que acham que nunca fariam certas coisas, que acham que num certo dia podem fazer essas coisas, que por vezes conseguem explicar o que fizeram, e que seguem palpites. Esses hábitos, hesitações e ocorrências não são bem capacidades ou progressos mentais: não os adquirimos, ou pelo menos não os aprendemos como quem aprende a fazer contas ou a calcular consequências; mas também não os podemos ignorar.

O maior problema com pensar que as máquinas pensam é com quem pensa isso: é achar que somos a soma das nossas capacidades, e que tudo o que fazemos consiste em chegar a conclusões a partir de informações, mediante coisas aproximadamente eléctricas que temos cá dentro e que servem para ligar essas duas coisas. Se pensar for isso, então as máquinas pensam. Mas pensar é muito mais exuberante e variado: inclui decidir quem tem razão numa disputa de vizinhos; considerar as vantagens de continuar a tocar mal corneta; achar que por agora não é preciso mais sal na massa; reconhecer que não se pode passar sem certas pessoas; e saber que se tem jeito de mãos sem saber o que fazer com elas. E se pensar for também isso, então as máquinas não pensam.