Wu'nun öğrendiğine göre, Tether yakın zamanda yeni QVAC sistemini tanıttı ve mobil cihazlarda llama.cpp kullanarak LLAMA 3.2 (1 milyar parametre) modelini yerel olarak verimli bir şekilde çalıştırmayı başardı. QVAC, akıllı telefonlar, dizüstü bilgisayarlar ve sunucular gibi çeşitli terminal cihazlarına uyum sağlamak amacıyla tasarlanmış genel bir çıkarım ve ince ayar çalışma zamanıdır. Şu anda birden fazla modeli desteklemekte olup, gelecekte daha fazla model desteği genişletilecektir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Wu'nun öğrendiğine göre, Tether yakın zamanda yeni QVAC sistemini tanıttı ve mobil cihazlarda llama.cpp kullanarak LLAMA 3.2 (1 milyar parametre) modelini yerel olarak verimli bir şekilde çalıştırmayı başardı. QVAC, akıllı telefonlar, dizüstü bilgisayarlar ve sunucular gibi çeşitli terminal cihazlarına uyum sağlamak amacıyla tasarlanmış genel bir çıkarım ve ince ayar çalışma zamanıdır. Şu anda birden fazla modeli desteklemekte olup, gelecekte daha fazla model desteği genişletilecektir.