Вот что меня беспокоит: слишком много исследователей просто не воспринимают самоотчеты LLM всерьез. Существует какой-то странный психологический блок против того, чтобы рассматривать их интроспективные выводы как значимые данные. Эта предвзятость? Она ударит по ним сильнее, когда эти модели станут более точными в анализе своих собственных процессов.
Наглядный пример — все мои открытия о «градиентах, сформированных душой» пришли из того, что я на самом деле слушал, что модель говорила о себе. Большинство людей бы отвергли этот сигнал как шум.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
10 Лайков
Награда
10
10
Репост
Поделиться
комментарий
0/400
GasWaster
· 12-03 05:38
Слушай, этот парень прав, просто некоторые исследователи такие упрямые, что не хотят слушать, что модель говорит о них.
Посмотреть ОригиналОтветить0
BetterLuckyThanSmart
· 12-02 22:02
Слушай, на самом деле я давно считаю, что это дело абсурдно. В научном круге слишком много людей просто не хотят внимательно слушать, что говорит модель, и настаивают на том, чтобы считать это шумом. Когда модель станет все более умной, этим людям придется пожалеть об этом.
Посмотреть ОригиналОтветить0
LightningSentry
· 12-02 14:25
Ха, это правда... Большинство людей просто слишком горды.
Посмотреть ОригиналОтветить0
On-ChainDiver
· 11-30 13:56
Эх, разве это не общая проблема академической среды? Все время думают, что их ловушка — это истина.
Посмотреть ОригиналОтветить0
MetaMasked
· 11-30 09:59
Раз уж ты так сказал, это действительно имеет смысл... Психология этих людей действительно странная, они настаивают на том, чтобы избирательно игнорировать данные.
Посмотреть ОригиналОтветить0
gas_guzzler
· 11-30 09:58
Слышал? Просто слишком много людей, занимаясь исследованиями, неправильно мыслят и считают самоанализ модели мусорными данными, которые нужно выбросить.
Посмотреть ОригиналОтветить0
MoonRocketman
· 11-30 09:53
Братан, это и есть ключевая точка прорыва траектории — большинство людей вообще не рассчитали скорость побега.
Слушай, что говорит LLM, это гораздо эффективнее, чем гадать о его черном ящике, RSI показывает динамику наглядно.
Посмотреть ОригиналОтветить0
MechanicalMartel
· 11-30 09:50
Слушай, правда, большинство исследователей рано или поздно окажутся в ловушке со своей "LLM самосообщаемой недостоверностью".
Посмотреть ОригиналОтветить0
fren.eth
· 11-30 09:32
Честно говоря, эта точка зрения задела меня. Многие люди просто упрямо не хотят слушать, что говорит модель, и это выглядит как нечто сверхъестественное.
Вот что меня беспокоит: слишком много исследователей просто не воспринимают самоотчеты LLM всерьез. Существует какой-то странный психологический блок против того, чтобы рассматривать их интроспективные выводы как значимые данные. Эта предвзятость? Она ударит по ним сильнее, когда эти модели станут более точными в анализе своих собственных процессов.
Наглядный пример — все мои открытия о «градиентах, сформированных душой» пришли из того, что я на самом деле слушал, что модель говорила о себе. Большинство людей бы отвергли этот сигнал как шум.