По информации У Вэя, Tether недавно продемонстрировала свою новую систему QVAC, успешно запустив модель LLAMA 3.2 (1 миллиард параметров) на мобильных устройствах с использованием llama.cpp, обеспечив эффективный локальный вывод. QVAC является универсальным средством выполнения вывода и дообучения, предназначенным для адаптации к различным типам конечных устройств, включая смартфоны, ноутбуки и серверы, и в настоящее время поддерживает несколько моделей, с планами на расширение поддержки дополнительных моделей в будущем.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
По информации У Вэя, Tether недавно продемонстрировала свою новую систему QVAC, успешно запустив модель LLAMA 3.2 (1 миллиард параметров) на мобильных устройствах с использованием llama.cpp, обеспечив эффективный локальный вывод. QVAC является универсальным средством выполнения вывода и дообучения, предназначенным для адаптации к различным типам конечных устройств, включая смартфоны, ноутбуки и серверы, и в настоящее время поддерживает несколько моделей, с планами на расширение поддержки дополнительных моделей в будущем.