Uma resposta ao desafio de Block é que esse problema também se aplica aos seres humanos. Deixando de lado as características físicas, toda a evidência que temos para dizer se um ser humano é capaz de pensar é o comportamento que seu pensa­ mento produz. E isso significa que nunca sabemos de fato se o nosso interlocutor está tendo uma conversa no real sentido do termo. Os filósofos chamam isso de problema das “outras mentes”.
Uma linha semelhante de discussão – o “argumento da sala chinesa” – foi desenvolvida pelo filósofo John Searle, da Universidade da Califórnia Berkeley, para mostrar que um computador pode passar no teste de Turing sem nem sequer entender o significado de qualquer das palavras que ele usa. Para ilustrar, Searle pede que imaginemos um programa para simular o entendimento da língua chinesa.
Agora suponha que você é um processador dentro do computador, trancado em uma sala (o gabinete do computador) cheia de cestos que contêm símbolos chineses (caracteres que irão aparecer na tela). Você não sabe chinês, mas recebeu um livro (software) que lhe diz como manipular os símbolos. As regras do livro não dizem o que os símbolos significam, no entanto. Quando os caracteres chineses são enviados para a sala (entrada de dados), seu trabalho é passar símbolos de volta para fora da sala (saída de dados). Para essa tarefa, você tem um conjunto extra de regras, que correspondem ao programa de simulação projetado para passar no teste de Turing. Sem que você saiba, os símbolos que entram na sala são perguntas, e aqueles que você envia para fora são respostas que perfeitamente imitam as que um falante de chinês pode dar; então, de fora da sala vai parecer que você entende chinês. Tal computador passaria no teste de Turing, mas não iria pensar de verdade.
Os computadores poderão algum dia entender o que os símbolos significam? O cientista da computação Stevan Harnad, da Universidade de Southampton, Inglaterra, acredita que sim, mas, como as pessoas, as máquinas antes de mais nada teriam de captar abstrações seu contexto, aprendendo como elas se relacionam com o mundo real externo. Aprendemos o significado de palavras por meio da ligação causal entre nós e o objeto que o símbolo representa. Entendemos a palavra “árvore” porque tivemos experiências com árvores. Harnad acredita que, para um computador compreender o significado dos símbolos que manipula, ele precisa ser equipado com um aparato sensório – uma câmera, por exemplo – de forma que possa realmente ver os objetos representados pelos símbolos. Um projeto como o pequeno Darwin VII é um passo nessa direção.