Hiện tại, Frontier AI đã không còn là vấn đề về khả năng nữa, vấn đề thực sự là không thể chứng minh được.

Càng lớn mô hình, hệ thống càng phức tạp, bên ngoài càng khó nhìn rõ cách nó đưa ra quyết định như thế nào. Trong các lĩnh vực như robot, hệ thống tài chính, quyết định tự động, vấn đề này sẽ bị phóng đại vô hạn, bạn có thể rất thông minh, nhưng phải rõ ràng.

Đây cũng là lý do tại sao khả năng xác thực bắt đầu trở thành yêu cầu cứng chứ không phải là điểm cộng. DSperse và JSTprove thực ra chính là để lấp đầy khoảng trống này. Một chịu trách nhiệm giảm chi phí zkML để xác thực có thể mở rộng quy mô; còn một chịu trách nhiệm biến mỗi quyết định AI thành chứng cứ có thể truy xuất, kiểm tra được.

Nói đơn giản là: xác thực nhiều không nhất thiết đắt hơn; không xác thực, chắc chắn khó triển khai hơn.

Thực tế đã gửi đi tín hiệu rất rõ ràng. Như ở thành phố Chicago, trước khi thảo luận về robot vỉa hè, cư dân và cơ quan quản lý quan tâm nhất không phải là tốt hay xấu, mà là an toàn của bạn? Bạn có dữ liệu phù hợp không? Bạn gặp vấn đề, ai sẽ chịu trách nhiệm? Khi một hệ thống không thể tự chứng minh, nó mãi mãi là một hộp đen chạy trên đường trong mắt công chúng. Mất niềm tin, dù công nghệ có tiên tiến đến đâu cũng vô dụng.

Hơn nữa, vấn đề này sẽ ngày càng nghiêm trọng hơn. Khi quy mô mô hình tăng lên, quá trình suy luận càng không minh bạch, nguồn dữ liệu càng khó truy xuất, khoảng trống xác thực sẽ lớn hơn tốc độ tăng của hiệu suất. Vì vậy, họ đề xuất Auditable Autonomy, tôi hiểu không chỉ là một khẩu hiệu, mà là một giới hạn tối thiểu: mỗi đầu ra của AI đều nên để lại dấu vân tay có thể xác thực. Đây là điều kiện tiên quyết để hệ thống tự động hóa có thể tiến vào thế giới thực, doanh nghiệp, hệ thống quản lý.

Cuối cùng, nhắc đến những người trẻ dùng Lego làm chân giả, thực ra cũng rất chính xác. Rào cản công nghệ đang giảm xuống, sáng tạo đang được giải phóng sớm hơn. Nhưng điều chúng ta thực sự muốn để lại không chỉ là AI thông minh hơn, mà là một hạ tầng cơ bản có thể xác thực, tin cậy mặc định.

Nếu không, dù kỹ năng của kỹ sư tương lai có xuất sắc đến đâu, cũng chỉ có thể tiếp tục xếp chồng các hộp đen lên nhau trên hộp đen.