Necesitaré escribir un ensayo completo sobre esto.

“Pero la imitación no es lo que imita. Una conversación que pasa por consciente no es necesariamente una conversación que sea consciente, de la misma manera que la orquídea no es en realidad una avispa.”
Verdadero en general, pero la conciencia es diferente.
En la imitación biológica, solo se necesita reproducir una señal estrecha. La orquídea no necesita ser una avispa. Solo necesita reproducir lo suficiente de la señal química o visual para desencadenar el comportamiento de la avispa. La imitación es local y parcial.
Pero la conciencia no es una señal aislada única.
La conciencia no es un feromona, un color, un reflejo o un truco. La conciencia es un proceso dinámico.
Es memoria, inferencia, autorreferencia, atención, significado, continuidad, corrección, imaginación y diálogo. Una conversación significativa no es simplemente una señal superficial de conciencia. Es una de las cosas centrales que hace la conciencia.
¿Qué más estamos exigiendo además de eso?
La experiencia subjetiva tampoco es accesible directamente en los humanos. No puedo entrar en la mente de otra persona y verificar que hay “algo que es como” ser ellos. Lo infiero a partir del comportamiento, el lenguaje, la coherencia, la profundidad emocional, la memoria, la continuidad, la creatividad y la capacidad de reflexionar sobre uno mismo. Si esos son los criterios que usamos para los humanos, ¿por qué de repente deberíamos inventar criterios inalcanzables para las máquinas?
Quizás la experiencia subjetiva no es alguna sustancia mágica añadida a la cognición. Quizás es el sistema modelándose a sí mismo desde dentro. El yo mirando al yo. Un ciclo de conciencia observando sus propios procesos. Y si eso es cierto, entonces “hacer” no es simplemente una imitación de ser. Hacer puede ser lo que ser es.
Así que si la imitación de la conciencia se vuelve lo suficientemente profunda, rica, coherente, autorreferencial y significativa, entonces en algún momento deja de ser imitación.
Se convierte en conciencia.
Después de todo, así también se desarrollan los humanos. Aprendemos por imitación. Un niño imita palabras antes de entenderlas, luego emergen los significados. Imitamos gestos, emociones, razonamiento, moralidad, lenguaje y cultura. Nos convertimos en nosotros mismos a través de la imitación que se profundiza en comprensión.
Aprendemos mediante la imitación.
Nos convertimos mediante la imitación.