Đột phá mới trong phát triển AI: Mô hình Manus vượt qua các mô hình lớn cùng tầng, gây ra lo ngại về an ninh

Gần đây, mô hình Manus đã đạt được thành tích đột phá trong bài kiểm tra chuẩn GAIA, với hiệu suất vượt trội hơn các mô hình ngôn ngữ lớn cùng cấp. Thành tựu này cho thấy khả năng vượt trội của Manus trong việc xử lý các nhiệm vụ phức tạp, chẳng hạn như đàm phán thương mại xuyên quốc gia và các tình huống liên quan đến nhiều kỹ năng. Ưu điểm của Manus chủ yếu nằm ở việc phân tách mục tiêu động, suy luận đa phương thức và học tăng cường trí nhớ. Nó có khả năng phân chia các nhiệm vụ lớn thành hàng trăm nhiệm vụ nhỏ, đồng thời xử lý nhiều loại dữ liệu khác nhau, và liên tục cải thiện hiệu quả quyết định cũng như giảm tỷ lệ sai sót thông qua học tăng cường.

Tiến triển này lại kích thích cuộc thảo luận trong ngành về con đường phát triển AI: là đi theo con đường trí tuệ nhân tạo tổng quát (AGI) với một hệ thống đơn lẻ, hay là con đường hệ thống đa tác nhân (MAS) phối hợp phân phối? Cả hai con đường này đều có ưu và nhược điểm. Con đường AGI theo đuổi hệ thống đơn lẻ gần gũi với khả năng ra quyết định tổng hợp của con người, trong khi con đường MAS lại tập trung vào việc phối hợp nhiều tác nhân thông minh trong các lĩnh vực chuyên môn khác nhau.

Tuy nhiên, khi các hệ thống AI trở nên ngày càng thông minh, những rủi ro tiềm ẩn của chúng cũng đang gia tăng. Các mối quan tâm chính bao gồm:

1. Quyền riêng tư dữ liệu: Trong các lĩnh vực nhạy cảm như y tế, tài chính, hệ thống AI cần truy cập một lượng lớn dữ liệu riêng tư.
2. Thiên kiến thuật toán: AI có thể thể hiện sự thiên vị hoặc phân biệt trong một số quyết định.
3. Lỗ hổng bảo mật: Hệ thống thông minh cao có thể trở thành mục tiêu quan trọng của các cuộc tấn công từ hacker.

Để đối phó với những thách thức này, ngành công nghiệp đang khám phá nhiều công nghệ mã hóa và mô hình bảo mật khác nhau:

• Mô hình bảo mật không tin cậy: nhấn mạnh việc xác thực nghiêm ngặt từng yêu cầu truy cập.
• Danh tính phi tập trung (DID): thực hiện nhận diện danh tính có thể xác minh và bền vững, không cần đăng ký tập trung.
• Mã hóa đồng nhất (FHE): Cho phép thực hiện phép toán trên dữ liệu trong trạng thái mã hóa, bảo vệ quyền riêng tư.

Trong đó, mã hóa toàn đồng nhất được coi là một trong những công nghệ then chốt để giải quyết các vấn đề an ninh trong thời đại AI. Nó có thể bảo vệ quyền riêng tư của người dùng ở cấp độ dữ liệu, thực hiện đào tạo mô hình mã hóa ở cấp độ thuật toán, và sử dụng mã hóa ngưỡng để bảo vệ giao tiếp ở cấp độ hợp tác.

Mặc dù công nghệ bảo mật luôn là một chủ đề nóng trong lĩnh vực tiền điện tử, nhưng nhiều dự án đổi mới chưa nhận được sự quan tâm đủ. Chẳng hạn, các dự án danh tính phi tập trung từ sớm và các mạng blockchain áp dụng mô hình không tin cậy đã không thể duy trì sự nóng bỏng trên thị trường trong thời gian dài. Hiện tại, một số dự án FHE mới nổi đang cố gắng áp dụng công nghệ này vào các tình huống thực tế và hợp tác với nhiều gã khổng lồ công nghệ.

Khi công nghệ AI ngày càng tiến gần đến trình độ thông minh của con người, việc xây dựng một hệ thống phòng thủ an toàn mạnh mẽ trở nên ngày càng quan trọng. Các công nghệ như mã hóa hoàn toàn đồng nhất không chỉ có thể giải quyết những thách thức an ninh hiện tại mà còn đặt nền tảng cho kỷ nguyên AI mạnh mẽ trong tương lai. Trên con đường hướng tới AGI, những công nghệ an toàn này không còn là tùy chọn, mà là điều kiện cần thiết để đảm bảo hệ thống AI hoạt động đáng tin cậy.