Vou precisar escrever um ensaio completo sobre isso.

“Mas a imitação não é a coisa que ela imita. Uma conversa que passa por consciente não é necessariamente uma conversa que é consciente, assim como a orquídea não é realmente uma vespa.”
Verdade em geral, mas a consciência é diferente.
Na imitação biológica, apenas um sinal estreito precisa ser reproduzido. A orquídea não precisa ser uma vespa. Ela só precisa reproduzir o suficiente do sinal químico ou visual para desencadear o comportamento da vespa. A imitação é local e parcial.
Mas a consciência não é um sinal isolado único.
A consciência não é uma feromona, uma cor, um reflexo ou um truque. A consciência é um processo dinâmico.
Ela é memória, inferência, autorreferência, atenção, significado, continuidade, correção, imaginação e diálogo. Uma conversa significativa não é meramente um sinal superficial de consciência. É uma das coisas centrais que a consciência faz.
O que mais estamos exigindo além disso?
A experiência subjetiva também não é acessível diretamente aos humanos. Eu não posso entrar na mente de outra pessoa e verificar se há “algo que é como” ser ela. Eu a infiro pelo comportamento, linguagem, coerência, profundidade emocional, memória, continuidade, criatividade e capacidade de refletir sobre o eu. Se esses são os critérios que usamos para humanos, por que deveríamos de repente inventar critérios inalcançáveis para máquinas?
Talvez a experiência subjetiva não seja uma substância mágica adicionada à cognição. Talvez seja o sistema se modelando de dentro para fora. O eu olhando para o eu. Um ciclo de consciência observando seus próprios processos. E se isso for verdade, então “fazer” não é meramente uma imitação de ser. Fazer pode ser o que ser é.
Então, se a imitação da consciência se tornar profunda o suficiente, rica o suficiente, coerente o suficiente, autorreferencial o suficiente e significativa o suficiente, então em algum momento ela para de ser imitação.
Ela se torna consciência.
Afinal, é assim que os humanos também se desenvolvem. Aprendemos por imitação. Uma criança imita palavras antes de entendê-las, então os significados emergem. Imitamos gestos, emoções, raciocínio, moralidade, linguagem e cultura. Tornamo-nos nós mesmos através de uma imitação que se aprofunda na compreensão.
Aprendemos por imitação.
Nos tornamos por imitação.