Новий прорив у розвитку ШІ: Модель Manus перевершує аналогічні великі моделі, викликаючи занепокоєння щодо безпеки

Нещодавно модель Manus досягла проривних результатів у тестуванні GAIA, її продуктивність перевершила продуктивність великих мовних моделей одного рівня. Це досягнення демонструє виняткові можливості Manus у виконанні складних завдань, таких як міжнародні бізнес-угоди, що вимагають багатогранних навичок. Переваги Manus головним чином полягають у динамічному розподілі цілей, міжмодальному міркуванні та підсиленому навчанні пам'яті. Він здатний розбити великі завдання на сотні підзавдань, одночасно обробляючи різні типи даних і постійно підвищуючи ефективність прийняття рішень та знижуючи ймовірність помилок завдяки навчанням з підсиленням.

Цей розвиток знову викликав дискусії в галузі щодо шляхів розвитку ШІ: чи слід йти шляхом загального штучного інтелекту (AGI) з одиничним інтелектом, чи шляхом багатих агентних систем (MAS) з розподіленою координацією? Обидва ці шляхи мають свої переваги та недоліки. Шлях AGI прагне наблизити єдину систему до загальної здатності людини до прийняття рішень, тоді як шлях MAS зосереджується на координації роботи кількох агентів, що спеціалізуються на різних галузях.

Проте, з розвитком систем штучного інтелекту їх потенційні ризики також постійно зростають. Основні занепокоєння включають:

1. Конфіденційність даних: У чутливих сферах, таких як охорона здоров'я і фінанси, системи ШІ повинні отримувати доступ до великої кількості конфіденційних даних.
2. Алгоритмічна упередженість: Штучний інтелект може проявляти несправедливі або дискримінаційні тенденції в деяких рішеннях.
3. Вразливості безпеки: високоінтелектуальні системи можуть стати важливою мішенню для хакерських атак.

Щоб впоратися з цими викликами, галузь досліджує різні криптографічні технології та моделі безпеки:

• Модель нульового довіри: підкреслює необхідність суворої перевірки кожного запиту на доступ.
• Децентралізована ідентичність (DID): забезпечення перевірки та постійної ідентифікації без потреби в централізованій реєстрації.
• Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над даними в зашифрованому стані, захищаючи конфіденційність.

Серед них повна гомоморфна криптографія вважається однією з ключових технологій для вирішення проблем безпеки в епоху ШІ. Вона може захищати конфіденційність користувачів на рівні даних, реалізовувати навчання зашифрованих моделей на алгоритмічному рівні та використовувати порогове шифрування для захисту зв'язку на рівні співпраці.

Хоча технології безпеки залишаються гарячою темою в сфері криптовалют, багато інноваційних проектів не отримали достатньої уваги. Наприклад, ранні проекти децентралізованої ідентифікації та блокчейн-мережі, що використовують модель нульового довіри, не змогли зберегти популярність на ринку в довгостроковій перспективі. Наразі деякі нові FHE проекти намагаються застосувати цю технологію в реальних сценаріях та співпрацюють з кількома технологічними гігантами.

З наближенням технологій штучного інтелекту до рівня людського інтелекту, створення потужної системи безпеки стає все більш важливим. Такі технології, як повна гомоморфна криптографія, можуть не лише вирішити поточні проблеми безпеки, а й закласти основу для майбутньої ери сильного штучного інтелекту. На шляху до AGI ці технології безпеки більше не є варіантом, а є необхідною умовою для надійної роботи систем штучного інтелекту.