✍️ Gate 广场「创作者认证激励计划」进行中！
我们欢迎优质创作者积极创作，申请认证
赢取豪华代币奖池、Gate 精美周边、流量曝光等超 $10,000+ 丰厚奖励！
立即报名 👉 https://www.gate.com/questionnaire/7159
📕 认证申请步骤：
1️⃣ App 首页底部进入【广场】 → 点击右上角头像进入个人主页
2️⃣ 点击头像右下角【申请认证】进入认证页面，等待审核
让优质内容被更多人看到，一起共建创作者社区！
活动详情：https://www.gate.com/announcements/article/47889
Hugging Face转推turboquant-gpu工具，宣称提供5.02倍KV缓存压缩
ME News 消息，4 月 6 日（UTC+8），Hugging Face近日转推了anirudhbv_ce发布的消息，宣布推出turboquant-gpu工具。该工具宣称能为任意GPU（包括RTX、H100、A100、B200）提供高达5.02倍的KV缓存压缩。据文中介绍，其特点包括：与Hugging Face Transformers库兼容；提供极简API，宣称只需3行代码即可实现压缩与生成；采用3-bit Lloyd-Max融合KV压缩技术，并宣称达到0.98的余弦相似度。文中观点认为，其性能表现优于MXFP4（3.76倍压缩）和另一个未命名的方案。（来源：InFoQ）