Wu nói rằng, Tether gần đây đã giới thiệu hệ thống QVAC mới ra mắt của mình, thành công chạy mô hình LLAMA 3.2 (1 tỷ tham số) trên thiết bị di động bằng llama.cpp, đạt được suy diễn hiệu quả tại chỗ. QVAC là một runtime suy diễn và tinh chỉnh đa năng, được thiết kế để phù hợp với nhiều loại thiết bị đầu cuối bao gồm điện thoại thông minh, máy tính xách tay và máy chủ, hiện đã hỗ trợ nhiều mô hình và trong tương lai sẽ mở rộng hỗ trợ cho nhiều mô hình hơn.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Wu nói rằng, Tether gần đây đã giới thiệu hệ thống QVAC mới ra mắt của mình, thành công chạy mô hình LLAMA 3.2 (1 tỷ tham số) trên thiết bị di động bằng llama.cpp, đạt được suy diễn hiệu quả tại chỗ. QVAC là một runtime suy diễn và tinh chỉnh đa năng, được thiết kế để phù hợp với nhiều loại thiết bị đầu cuối bao gồm điện thoại thông minh, máy tính xách tay và máy chủ, hiện đã hỗ trợ nhiều mô hình và trong tương lai sẽ mở rộng hỗ trợ cho nhiều mô hình hơn.