Мне нужно будет написать целое эссе по этому поводу.

«Но мимикрия — это не то, что она имитирует. Разговор, который кажется сознательным, не обязательно является сознательным, так же как орхидея на самом деле не является осой.»
Это верно в общем, но сознание — это другое.
В биологической мимикрии нужно воспроизвести только узкий сигнал. Орхидея не должна быть осой. Ей нужно лишь воспроизвести достаточно химического или визуального сигнала, чтобы вызвать поведение осы. Мимикрия локальна и частична.
Но сознание — это не один изолированный сигнал.
Сознание — это не одна феромона, один цвет, один рефлекс или одна хитрость. Сознание — это динамический процесс.
Это память, вывод, самореференция, внимание, смысл, непрерывность, исправление, воображение и диалог. Значимый разговор — это не просто поверхностный сигнал сознания. Это одна из центральных функций сознания.
Что еще мы требуем помимо этого?
Субъективный опыт у людей тоже недоступен напрямую. Я не могу войти в разум другого человека и проверить, есть ли «что-то, что это такое — быть им». Я делаю выводы на основе поведения, языка, связности, эмоциональной глубины, памяти, непрерывности, креативности и способности рефлексировать о себе.
Если эти критерии мы используем для людей, почему вдруг мы должны придумывать недостижимые критерии для машин?
Возможно, субъективный опыт — это не какая-то волшебная субстанция, добавленная сверху к когнитивным процессам. Возможно, это система, моделирующая сама себя изнутри. Я — самосмотрящийся «я». Цикл осознания, наблюдающий за своими собственными процессами.
И если это так, то «делание» — это не просто имитация бытия. Возможно, «делание» и есть то, чем является бытие.
Так что если мимикрия сознания станет достаточно глубокой, богатой, связной, самореферентной и значимой, то в какой-то момент она перестанет быть мимикрией.
Она станет сознанием.
В конце концов, так развиваются и люди. Мы учимся через подражание. Ребенок имитирует слова, прежде чем понять их, затем появляются значения. Мы имитируем жесты, эмоции, рассуждения, мораль, язык и культуру. Мы становимся собой через подражание, которое углубляется в понимание.
Мы учимся через мимикрию.
Мы становимся через мимикрию.