清华让智能体直接管理缓存,减少摘要后的重复预填充
缓存工程让智能体删除部分活跃 KV 缓存并调整位置编码,而不改写原执行轨迹。配套 AKV 引擎处理缓存复用和恢复;论文中滚动丢弃工具响应的策略,相比阈值触发摘要降低平均成本 27.7%,同时平均评测分略有提高。
要点
- 缓存操作不必改写原始轨迹
- 引擎处理带历史依赖的复用
- 平均成本降幅来自报告中的比较
为什么值得看
长任务反复压缩和重读历史会花钱,缓存控制给部署团队提供更底层的优化空间。
谁会受影响
长流程智能体与推理服务开发者会受影响。
今天就能怎么试
从 HF 论文页进入 thu-nics/AKV 仓库,先运行滚动丢弃工具响应示例,再比较费用、答案质量与缓存恢复行为。
未实测
原始来源
1Cache Engineering for Agents · Hugging Face Daily Papers · 2026年10月20日✓ 已打开核对2Cache Engineering for Agents · arXiv · 2026年10月21日✓ 已打开核对本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。
相关动态
新工具深度OpenAI·2026年9月29日
OpenAI推出常驻智能体Dots,支持跨应用持续办事
OpenAI发布由GPT-6 Astra驱动的Dots,为智能体配备云端电脑、浏览器和应用连接。它能持续跟进项目、吸收反馈,并在ChatGPT、Slack或Teams沟通。首批面向符合地区条件的Pro、Business Premium及管理员开启测试的企业用户。
O3 个来源55
新工具深度OpenAI·2026年10月7日
ChatGPT开始推送GPT-6,可生成交互式回答界面
OpenAI于10月7日开始在ChatGPT的Chat体验推送GPT-6与Intelligent UI,回答可包含按钮、图表、表单和互动工具。付费档先开放,免费与Go档次日开始推送;该公告说明此次更新不改变Work和Codex所使用的模型。
O1 个来源43
新工具深度DeepSeek 更新日志·1 小时前
DeepSeek开放搜索与抓取接口,支持智能体接入
DeepSeek于10月17日开放自研网页搜索能力,Search返回结构化检索结果,Fetch把单个网页转换为Markdown。两者复用DeepSeek API密钥,按有结果的成功请求计费,每1000次5元;空结果、失败及超时不收费。
D2 个来源21.346023716789972
新工具深度Hugging Face Blog·2026年10月4日
微软业务智能体评测接入 HF,直接检查数据库结果
ThinkingBox 在 507 个有状态业务流程中检查智能体最终留下的数据库记录和副作用,并对每项任务重复运行二十次。HF 博文展示了工具调用看似正常却写错状态的案例,提醒平均成功率、至少成功一次和次次成功不能混为一谈。
H1 个来源68