BELT用可复用信念表示实现大模型推理早停
推理大模型常在答对后仍继续生成,浪费算力甚至改错。BELT把答案信念预测与停止策略分开,用冻结隐状态训练探针,再以线性策略适配不同token成本。五项分布外数学基准上,Qwen3-1.7B与OLMo-3-7B-Think分别少生成约41%和51%的token且准确率不降,并迁移到编程与智能体任务。
要点
- BELT从冻结大模型隐状态学习当前与未来答案的信念,停止策略可独立于token价格重新拟合。
- 五项分布外数学基准平均显示,Qwen3-1.7B减少41%生成token,OLMo-3-7B-Think减少51%,且未损失准确率。
- 仅用数学数据训练的探针可迁移到编程和智能体任务;相对OS-Pruner,探针参数少21.2倍、训练GPU时长少55倍。
为什么值得看
推理模型常在已得出正确答案后继续生成,既消耗token,也可能把正确答案改错;直接按单一token价格训练停止控制器,换价格往往要重新训练。
谁会受影响
面向使用推理型大模型处理数学、编程或智能体任务,并需要在准确率与推理成本之间灵活取舍的研究者和工程团队。
今天就能怎么试
论文于2026年10月21日提交。代码、模型权重、国内可用性与价格均未知,未实测;若后续公开实现,可按其描述用冻结隐状态训练信念探针,再在CPU上重拟合线性停止策略或调整阈值。
原始来源
1Same Beliefs, Different Policies: Learning Reusable Representations for Early Stopping in LLM Reasoning · arXiv cs.AI · 2026年10月23日✓ 已打开核对本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。
相关动态
开放世界模型结合游戏引擎,单卡生成实时可玩画面
Matrix-Game 4.0 让轻量引擎负责规则和状态,视频模型将低多边形画面转成细致视觉,编码智能体则修改场景与玩法。论文报告 RTX 5090 上实现 480p、60 帧交互,按键到显示延迟为 112 毫秒,并宣布开放代码与资产。实时帧率需与响应延迟分开看。
业务智能体基准检查执行过程,完成任务也可能判失败
BizAgentBench 将 789 份知识文档、601 项业务工具和 50 个长流程任务放进可执行环境,既核验最终目标,也检查中间步骤约束。论文显示只看任务完成会掩盖无效操作;HF 早期标题为 BizBench,arXiv 修订版已改名。同时还应记录任务过程中的工具调用成本。
中英密集文字生图基准发布,专测海报长文与布局
UltraText Bench 提供 432 条人工检查的提示,覆盖 24 类真实场景,中英文各半,每张图要求四至十二处文字。评估分别看文字准确、清晰度、空间安排和场景质量,揭示快速模型可能更清晰却更容易写错字的取舍。适合中文海报选型。
AI协助发现PHP高危漏洞,网站维护者面临集中修补
爱范儿梳理 PHP2Shell 漏洞披露与紧急修补过程,介绍 OpenAI 安全研究在构造可复现证据中的作用。事件涉及底层软件广泛使用带来的连锁影响;具体风险取决于运行版本与部署条件,不能把使用 PHP 都等同于已经遭入侵。