资讯/2026年10月24日
研究

ValuSpec:树状推测解码验证前的即插即用候选估值

ValuSpec是面向树状推测解码的即插即用候选估值方法,在目标模型验证前剔除低质量分支。阈值由校准集贪心轨迹估计且无需训练,接受结果与标准自回归解码严格一致。检索树场景最高约2.38倍端到端加速,接入EAGLE-3最高约2.78倍。价格、参数细节与国内可用性未知。

A1 个来源13.99998060697524256 分钟前推测解码大模型推理ValuSpecEAGLE-3候选树过滤

要点

  1. ValuSpec不改树构建策略,可在目标验证前过滤检索树或EAGLE-3动态树中的低质量分支。
  2. 过滤阈值来自目标模型在校准集上的贪心轨迹,无需参数训练,且输出与标准自回归解码完全一致。
  3. 主评测覆盖HumanEval、GSM8K、Dolly和SpecBench,检索树最高约2.38倍、接入EAGLE-3最高约2.78倍端到端加速。

为什么值得看

相似请求会让检索得到的候选树堆积低质量分支,浪费目标模型的并行验证算力。ValuSpec在昂贵验证前过滤分支,并保持接受结果与标准自回归解码一致。

谁会受影响

面向研究或部署大模型推理加速、树状推测解码及EAGLE-3动态树的研究者与工程团队。

今天就能怎么试

可先阅读2026年10月22日提交的论文摘要与实验设置。公开代码、复现参数、服务接口和国内获取方式均未知,目前无法按资料直接试用。

本站已实测

原始来源

1ValuSpec: Plug-and-Play Candidate Valuation before Target Verification for Tree-Based Speculative Decoding · arXiv cs.AI · 2026年10月23日✓ 已打开核对

本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。

相关动态

研究深度Hugging Face Daily Papers·3 天前

开放世界模型结合游戏引擎,单卡生成实时可玩画面

Matrix-Game 4.0 让轻量引擎负责规则和状态,视频模型将低多边形画面转成细致视觉,编码智能体则修改场景与玩法。论文报告 RTX 5090 上实现 480p、60 帧交互,按键到显示延迟为 112 毫秒,并宣布开放代码与资产。实时帧率需与响应延迟分开看。

H1 个来源15.733188594427858世界模型互动游戏
研究深度Hugging Face Daily Papers·2026年10月15日

业务智能体基准检查执行过程,完成任务也可能判失败

BizAgentBench 将 789 份知识文档、601 项业务工具和 50 个长流程任务放进可执行环境,既核验最终目标,也检查中间步骤约束。论文显示只看任务完成会掩盖无效操作;HF 早期标题为 BizBench,arXiv 修订版已改名。同时还应记录任务过程中的工具调用成本。

H2 个来源89企业智能体流程验收
研究深度Hugging Face Daily Papers·2026年10月7日

中英密集文字生图基准发布,专测海报长文与布局

UltraText Bench 提供 432 条人工检查的提示,覆盖 24 类真实场景,中英文各半,每张图要求四至十二处文字。评估分别看文字准确、清晰度、空间安排和场景质量,揭示快速模型可能更清晰却更容易写错字的取舍。适合中文海报选型。

H2 个来源81中文生图海报设计
研究深度爱范儿·1 天前

AI协助发现PHP高危漏洞,网站维护者面临集中修补

爱范儿梳理 PHP2Shell 漏洞披露与紧急修补过程,介绍 OpenAI 安全研究在构造可复现证据中的作用。事件涉及底层软件广泛使用带来的连锁影响;具体风险取决于运行版本与部署条件,不能把使用 PHP 都等同于已经遭入侵。

爱1 个来源21.426844542759238AI安全网站运维
ValuSpec:树状推测解码验证前的即插即用候选估值 · 潮汐情报