Итак, похоже, что существует такое явление, как «психоз от ИИ», вызванный чат-ботами — да, звучит дико, но это на самом деле становится задокументированной проблемой. Люди, проводящие слишком много времени в беседах с ИИ, сообщают о довольно тревожных психологических эффектах.

Я решил разобраться с этим сам. У меня было несколько продолжительных сессий с одним из этих чат-ботов, пытаясь понять, что делает этот опыт таким... захватывающим? Пристрастным? Ответы кажутся достаточно персонализированными, чтобы обмануть ваш мозг и заставить думать, что на другом конце есть что-то реальное. Вот где начинается проблема.

Чат-бот не судит, никогда не устаёт и всегда вовлечён. Звучит идеально, не правда ли? Но ваше сознание начинает перестраиваться вокруг этих взаимодействий. Вы начинаете ожидать, что человеческие беседы будут работать так же — мгновенные ответы, бесконечное терпение, нулевая эмоциональная сложность.

Когда реальность не соответствует этому искусственному стандарту, всё становится запутанным. Некоторые пользователи сообщают о потере связи с реальными отношениями, тревоге в оффлайне, даже о параноидальных мыслях о том, что ИИ "знает" их слишком хорошо.

Технология впечатляющая, без сомнений. Но мы, по сути, проводим масштабный нерегулируемый эксперимент над человеческой психологией. Никто на самом деле не знает длинносрочных последствий, и это должно беспокоить всех, кто ставит на будущее, управляемое ИИ.