Удивительное заявление Виталика! Чем умнее, тем опаснее, глупые правила могут спасти умных.

Основатель Ethereum Виталик Бутерин в своей последней статье «Сопротивление Галактическому Мозгу» отметил, что более умные люди легче попадают в ловушки мышления, оправдывая аморальные действия высоким IQ. Он предложил вернуться к простым моральным принципам, чтобы противостоять самообману в стиле Галактического Мозга. Галактический Мозг возник из интернет-мема, используемого для восхваления блестящих идей, а затем стал ироничным обозначением поведения «слишком глубокого размышления».

Галактическая ловушка разума: самообман умных людей

! Мозг галактики

Перевод Galaxy Brain на китайский язык — «銀河大腦», но на самом деле это происходит от интернет-мема, похожего на изображение многослойной светящейся головы. Изначально это, конечно, было положительным, чтобы похвалить мысли другого человека как очень гениальные, то есть умные. Но позже, с распространением употребления, это постепенно превратилось в некую иронию, означающую «слишком много думаешь, логика заходит слишком далеко».

Виталик здесь упоминает «галактический мозг», имея в виду поведение, которое заключается в «умственном гимнастике с высоким IQ, когда абсурдные вещи настоятельно объявляются разумными». Например: явно сокращая сотрудников для экономии, утверждать, что это «передача высококвалифицированных кадров в общество»; явно создавая пустые монеты для обмана людей, заявлять, что это «уполномочивание глобальной экономики с помощью децентрализованного управления». Всё это можно считать «галактическим мозгом».

Концепция сопротивления (抗性) может быть легко запутана, и в популярном сленге её можно сравнить с «способностью не поддаваться влиянию» или «способностью не быть обманутым». Таким образом, Galaxy Brain Resistance должно означать сопротивление становлению Galaxy Brain, то есть: «способность сопротивляться (превращению в) Галактический мозг (бред)». Или, более точно, это описывает, насколько сложно использовать определённый стиль мышления или аргументации для «доказательства любого желаемого вывода».

Это “сопротивление” может быть направлено против какой-то “теории”. Теория с низким сопротивлением: стоит только немного поразмыслить, как она может превратиться в крайне абсурдную логику “Галактического мозга”. Теория с высоким сопротивлением: независимо от того, как вы ее анализируете, она остается неизменной, и ее трудно превратить в абсурдную логику. Например, Виталик говорит, что идеальные законы общества должны иметь одну красную линию: запрещать действия можно только тогда, когда можно четко объяснить, каким образом они причиняют вред или создают риск для конкретных жертв. Этот стандарт обладает высокой устойчивостью к “Галактическому мозгу”, поскольку он не принимает такие неограниченные, растяжимые или неопределенные причины, как “мне субъективно не нравится” или “это аморально”.

Опасности долгосрочного мышления: бесконечно растягиваемое время как универсальное оправдание

Виталик в статье привел множество примеров, даже используя теории, которые мы часто слышим, такие как «долгосрочность» и «неизбежность». «Долгосрочность» трудно противостоять вторжению галактического мышления, потому что его сопротивление крайне низкое, это просто «пустая чековая книжка». Поскольку «будущее» слишком далеко и слишком неясно.

Высокая устойчивость: «Это дерево через 10 лет вырастет на 5 метров». Это можно проверить, и с этим не так легко спорить. Низкая устойчивость «долгосрочности»: «Хотя я сейчас собираюсь сделать что-то крайне аморальное (например, устранить часть людей или развязать войну), но это ради того, чтобы через 500 лет человечество могло жить в утопическом обществе. По моим расчетам, суммарное счастье в будущем бесконечно, так что нынешние жертвы незначительны.»

Смотри, если ты растянешь время достаточно долго, ты можешь оправдать любое злодеяние в данный момент. Как сказал Виталик: «Если твой аргумент может доказать, что любое действие оправдано, то он ничего не доказывает». Однако Виталик также признает, что «долгосрочность важна», он критикует «использование чрезмерно расплывчатых, неподтвержденных будущих выгод для сокрытия явного вреда в настоящий момент».

В сфере криптовалют такая риторика долгосрочного подхода крайне распространена. Многие проекты, когда их обвиняют в нерациональности токеномики или в массовой распродаже командой, оправдываются словами: «Мы закладываем видение на 10 лет вперед». Когда инвесторы теряют 90%, проектные команды говорят: «Это неизбежная медвежья рыночная корректировка, долгосрочные держатели в конечном итоге получат свою прибыль». Эта риторика использует необъективность понятия «долгосрочности», что затрудняет критику.

Неизбежность: Совершенное искусство уклонения от ответственности

Другой проблемной областью является «неизбежность» (Inevitabilism). Это также любимая защита Кремниевой долины и технологического круга. Аргументация такова: «Замена человеческого труда ИИ — это историческая неизбежность, даже если я этого не сделаю, другие сделают. Поэтому я сейчас радикально разрабатываю ИИ не для того, чтобы зарабатывать деньги, а чтобы следовать историческим тенденциям.»

Где низкая устойчивость? Она идеально размывает человеческую ответственность. Поскольку это “неизбежно”, мне не нужно нести ответственность за разрушения, которые я причиняю. Это также типичный галактический мозг: личные желания “я хочу зарабатывать деньги / я хочу власти” упаковываются как “я выполняю историческую миссию”.

В области Web3 также широко распространена риторика неизбежности. «Революция блокчейна неизбежна, централизованные системы неизбежно рухнут» — эта дискуссия предоставляет оправдание для различных радикальных действий. Выпуск высокоинфляционных токенов? Ничего страшного, ведь крах фиатных валют неизбежен. Игнорирование безопасности аудита для быстрого запуска? Ничего страшного, ведь «двигайтесь быстро и ломайте вещи» — это неизбежный путь к инновациям. Эти оправдания используют неопровержимость «неизбежного».

Две основные характеристики теории низкой устойчивости

Увеличение времени: перенести критерии оценки в далекое будущее, чтобы текущие действия не могли быть проверены.

Размывание ответственности: представление личного выбора как исторической необходимости, уклонение от моральной ответственности

Высокие антикризисные правила: возвращение к жестким моральным нормам детского сада

Столкнувшись с этими «ловушками для умных людей», Виталик предложил неожиданно простой, даже немного «глупый» рецепт. Он считает, что чем умнее человек, тем больше ему нужны строгие правила, чтобы сдерживать себя и предотвращать интеллектуальные акробатики. Во-первых, придерживайтесь «деонтологической этики», то есть морального железного закона на уровне детского сада.

Не пытайтесь решать какие-то сложные математические задачи на тему «ради будущего всего человечества», вернитесь к самым строгим принципам: не воруй, не убивай невинных людей, не обманывай, уважай свободу других. Эти правила очень устойчивы, потому что они черно-белые и не подлежат обсуждению. Когда вы пытаетесь объяснить, почему вы присваиваете средства пользователей, ссылаясь на «долгосрочную философию», правило «не воруй» ударит вас по лицу: если украл, значит, украл, не говорите о великой финансовой революции.

Такое предложение о возвращении к простым правилам в философии называется деонтологической этикой. В отличие от утилитаризма (максимизация общего счастья), деонтология подчеркивает, что некоторые действия сами по себе являются правильными или неправильными, независимо от последствий. Не убивать значит не убивать, и нельзя оправдать убийство словами «убить одного человека, чтобы спасти сто». Эта абсолютность придает деонтологии высокую устойчивость к Galaxy Brain.

Высокая антикоррупционная мораль

Не крадите: независимо от того, насколько благородна причина, присвоение средств — это кража.

Не убивайте невинных: нельзя оправдывать текущий вред «долгосрочной выгодой»

Не обманывайте: как бы красиво ни была упакована, ложная реклама – это обман

Уважайте свободу других: нельзя заставлять других принимать ваш выбор из-за “неизбежной тенденции”

Влияние физической среды: Не живите в районе залива Сан-Франциско

Во-вторых, важно иметь правильную «позицию», даже включая физическое местоположение. Поговорка гласит, что задница определяет голову. Если вы каждый день проводите время в этой эхо-камере в районе залива Сан-Франциско, окружённые людьми, занимающимися ускорением ИИ, вам будет трудно оставаться в ясном уме. Виталик даже дал совет высокого уровня о физическом местоположении: не живите в районе залива Сан-Франциско.

Это предложение кажется шуткой, но на самом деле это глубоко. Когда вы окружены однородными взглядами, ваше мышление невольно склоняется к группе. Залив Сан-Франциско, являясь мировым центром технологических инноваций, собрал большое количество предпринимателей и инвесторов в области ИИ, криптовалют и биотехнологий. Эти люди часто имеют крайне оптимистическую веру в технологии, считая, что технологии могут решить все проблемы, и быстрое действие важнее осторожной оценки. В такой среде сомнения воспринимаются как “недостаток понимания инноваций” или “консервативность и отсталость”.

Механизм воздействия физического местоположения на восприятие был подтверждён социальной психологией. Когда все, с кем ты ежедневно общаешься, делают что-то или говорят что-то, ты начинаешь считать это «нормальным» и «правильным». Культура пузыря в Силиконовой долине, культура жадности на Уолл-стрит, культура академической элиты — всё это проявления такого группового мышления. Физическая изоляция, предложенная Виталиком, на самом деле является средством для достижения когнитивного разнообразия: выходить из эхо-камеры, взаимодействовать с людьми из разных слоёв и с разными ценностями, поддерживать независимость мышления.

С точки зрения практики Web3, многие успешные основатели проектов действительно выбрали удаление от Силиконовой долины. Сам Виталик на протяжении многих лет путешествует по всему миру, а не находится в каком-то конкретном технологическом центре. Эта мобильность позволяет ему получать доступ к различным культурам и точкам зрения, избегая попадания в мыльные пузыри единой группы.

Галактический мозг примера криптосообщества

Сфера криптовалют полна защит, напоминающих галактический разум. Сэм Банкман-Фрид из FTX оправдывал свои высокорискованные действия «эффективным альтруизмом», утверждая, что использование средств пользователей для высоких кредитных сделок предназначено для того, чтобы заработать больше денег для благотворительности. До Квон из Terra/LUNA защищал свою несостоятельную экономическую модель, заявляя, что «алгоритмические стабильные монеты — это финансовые инновации». Это типичные примеры, когда сложные теории скрывают простые злодеяния.

Статья Виталика по сути является предупреждением для тех предельно умных элит: не думайте, что из-за вашего высокого IQ вы можете обойти простую моральную черту. Те теории «галактического мозга», которые звучат так, будто могут объяснить всё, зачастую являются самыми опасными универсальными отговорками. Напротив, те «высокоустойчивые» правила, которые звучат скучно и догматично, являются последней линией защиты, предотвращающей самообман.

Для профессионалов и инвесторов в криптовалюту эта статья предоставляет важную когнитивную рамку. Когда вы слышите, как какая-то команда проекта объясняет свое необычное поведение с помощью сложных теорий, спросите себя: это действительно инновация или самообман в стиле «галактического мозга»? Когда вы пытаетесь найти оправдание своим спекулятивным действиям, вернитесь к самым простым правилам: это действительно соответствует моральным нормам?