Новый прорыв в развитии ИИ: Модель Manus превосходит модели того же уровня, вызывая опасения по поводу безопасности

Недавно модель Manus достигла прорывных результатов в бенчмаркинге GAIA, ее производительность превосходит производительность крупных языковых моделей того же уровня. Это достижение демонстрирует выдающиеся способности Manus в обработке сложных задач, таких как международные бизнес-переговоры и другие сценарии, требующие многосторонних навыков. Преимущества Manus в основном заключаются в динамическом разбиении целей, кросс-модальном выводе и усиленном обучении с памятью. Она способна разбивать крупные задачи на сотни подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.

Этот прогресс снова вызвал обсуждение в отрасли о путях развития ИИ: следует ли двигаться по пути единой интеллектуальной системы к общему искусственному интеллекту (AGI) или по распределенному пути координации многоагентных систем (MAS)? У этих двух путей есть свои плюсы и минусы. Путь AGI стремится к созданию единственной системы, приближающейся к человеческой способности к комплексному принятию решений, тогда как путь MAS сосредоточен на координации совместной работы нескольких специализированных агентов.

Однако, по мере того как системы ИИ становятся все более интеллектуальными, их потенциальные риски также продолжают увеличиваться. Основные опасения включают:

1. Конфиденциальность данных: в чувствительных областях, таких как медицина и финансы, системам ИИ необходимо получить доступ к большому объему конфиденциальных данных.
2. Алгоритмическая предвзятость: ИИ может проявлять несправедливые или дискриминационные наклонности в некоторых решениях.
3. Уязвимости безопасности: высоко интеллектуальные системы могут стать важной целью для хакерских атак.

В ответ на эти вызовы отрасль исследует различные криптографические технологии и модели безопасности:

• Модель нулевого доверия: акцент на строгой проверке каждого запроса на доступ.
• Децентрализованная идентификация (DID): обеспечивает проверяемую и постоянную идентификацию личности без необходимости централизованной регистрации.
• Полностью однородное шифрование (FHE): позволяет выполнять вычисления над данными в зашифрованном состоянии, защищая конфиденциальность.

Среди них полное гомоморфное шифрование считается одной из ключевых технологий для решения проблем безопасности в эпоху ИИ. Оно может защищать конфиденциальность пользователей на уровне данных, реализовывать обучение зашифрованных моделей на алгоритмическом уровне и использовать шифрование с порогом для защиты связи на уровне сотрудничества.

Несмотря на то, что технологии безопасности всегда были актуальной темой в области криптовалют, многие инновационные проекты не получили достаточного внимания. Например, ранние проекты децентрализованной идентификации и блокчейн-сети, использующие модель нулевого доверия, не смогли поддерживать интерес на рынке в долгосрочной перспективе. В настоящее время некоторые новые проекты FHE пытаются применять эту технологию в реальных сценариях и сотрудничают с несколькими технологическими гигантами.

С развитием технологий ИИ, которые все ближе подходят к уровню человеческого интеллекта, становится все более важным создание мощной системы безопасности. Технологии, такие как полностью гомоморфное шифрование, не только могут решить текущие проблемы безопасности, но и заложить основу для будущей эпохи сильного ИИ. На пути к AGI эти технологии безопасности больше не являются необязательными, а становятся необходимым условием для надежной работы систем ИИ.