Проблемы и направления будущего развития Web3 AI

Акции Nvidia снова достигли рекордного уровня, а прогресс в многомодальных моделях еще больше углубил технологический барьер Web2 AI. От семантической согласованности до визуального понимания, от высокоразмерного встраивания до слияния признаков, сложные модели интегрируют различные модальности выражения с беспрецедентной скоростью, создавая все более закрытую территорию AI. Рынок акций США также на практике продемонстрировал оптимизм по отношению к AI-индустрии, как в отношении криптоакций, так и акций AI, наблюдается волна небольшого бычьего рынка.

Тем не менее, этот бум, похоже, не имеет отношения к области криптовалют. Недавние попытки Web3 AI, особенно в направлении Agent, имеют явное отклонение: попытка собрать многомодульную систему в стиле Web2 с помощью децентрализованной структуры на самом деле является двойным смещением технологий и мышления. В условиях сильной взаимосвязанности модулей, высокой нестабильности распределения признаков и растущей концентрации вычислительных ресурсов в настоящее время многомодульная система в среде Web3 трудно может занять прочное положение.

Будущее Web3 AI не в имитации, а в стратегическом обходе. От семантического выравнивания в высокоразмерных пространствах до информационных узких мест в механизмах внимания и выравнивания признаков в условиях гетерогенной вычислительной мощности, Web3 AI необходимо найти собственный путь развития.

Дилемма семантического выравнивания Web3 AI

В современных многомодальных системах Web2 AI "семантическое выравнивание" является ключевой технологией для отображения информации различных модальностей в одно и то же семантическое пространство. Это позволяет моделям понимать и сравнивать внутренние значения сигналов различных форм. Высокомерный встраиваемый пространство является основой для достижения этой цели, позволяя кодировать сложные семантические характеристики в векторы размерностью от сотен до тысяч.

Однако протокол Web3 Agent трудно реализовать в высокоразмерном встраивании. Большинство Web3 Agent представляет собой лишь упаковку существующих API в независимые модули, что приводит к отсутствию единого центрального встраиваемого пространства и межмодульного механизма внимания. Это приводит к тому, что информация не может взаимодействовать между модулями с разных углов и на разных уровнях, система демонстрирует однобокую функциональность и трудно формирует общую замкнутую оптимизацию.

Чтобы реализовать полный цепочный интеллектуальный агент с барьерами для отрасли, необходимо начать с совместного моделирования от конца до конца, унифицированного встраивания между модулями, а также системной инженерии для совместной тренировки и развертывания. Однако в настоящее время на рынке не существует такого спроса, и, следовательно, отсутствуют соответствующие решения.

Ограничения механизма внимания

Высокоуровневые многомодальные модели требуют тщательно разработанных механизмов внимания. Механизм внимания по своей сути является динамическим способом распределения вычислительных ресурсов, позволяя модели выборочно "сосредотачиваться" на наиболее релевантных частях при обработке входных данных.

В Web2 AI при проектировании механизма внимания обычно используется модель Query-Key-Value (Q-K-V), что помогает определить ключевую информацию. Однако на основе модульного Web3 AI сложно реализовать единую диспетчеризацию внимания. Основные причины включают:

1. Отсутствие единого пространства Q-K-V
2. Невозможно реализовать параллельные вычисления многоглавого внимания
3. Отсутствие центрального контекста в реальном времени между модулями

Следовательно, просто упаковка различных функций в дискретные API не позволяет создать такую способность, как "унифицированное управление вниманием" в Transformer.

Поверхностные проблемы слияния признаков

Слияние признаков основано на выравнивании и внимании, и заключается в дальнейшей комбинации векторных признаков, полученных после обработки различных модальностей. Web3 AI в настоящее время находится на самом простом этапе соединения, в основном из-за отсутствия высокоразмерного пространства и точных механизмов внимания в качестве предварительных условий.

Веб2 ИИ склонен к совместному обучению от конца до конца, в то время как веб3 ИИ больше использует подход с дискретными модулями. Этот подход как не имеет единой цели обучения, так и не обеспечивает потока градиентов между модулями, что приводит к тому, что слияние признаков остается на поверхностной статической стадии.

Барьеры в индустрии ИИ и будущие возможности

Технические барьеры в индустрии ИИ продолжают углубляться. Мульти-модальные системы Web2 AI представляют собой крупный проект, требующий огромных объемов данных, мощных вычислительных ресурсов, передовых алгоритмов и системных инженерных возможностей. Это создает очень сильные барьеры для входа в отрасль и формирует основное конкурентное преимущество немногих ведущих команд.

Тем не менее, возможности Web3 AI могут заключаться в тактике "сельская округающая город". Web3 AI следует начать с небольших испытаний в пограничных сценариях, таких как легковесные структуры, легко параллелизуемые и мотивируемые задачи. К ним могут относиться дообучение LoRA, посттренировочные задачи с выравниванием поведения, краудсорсинговое обучение и аннотирование данных, обучение небольших базовых моделей, а также совместное обучение на пограничных устройствах.

Стоит отметить, что барьеры текущего Web2 AI только начинают формироваться, это ранняя стадия конкуренции ведущих компаний. Настоящие возможности Web3 AI могут появиться только после того, как исчезнут преимущества Web2 AI, и оставшиеся проблемы станут лучшим моментом для входа Web3 AI.

Перед этим проекты Web3 AI должны обладать следующими характеристиками:

1. Войти с фланга, утвердиться в небольшом сцене.
2. Соединение точек и плоскостей, круговое продвижение, непрерывная итерация и обновление в малых приложениях.
3. Сохраняйте гибкость, чтобы быстро адаптироваться к требованиям различных сценариев.

Только проекты, обладающие этими качествами, могут занять свое место в будущем Web3 AI.