DeepSeek开源生产推理框架，首批提供离线运行能力
DeepSeek开放DeepInfer，介绍其生产服务使用的推理框架，首批代码支持DeepSeek-V4.1-Flash的离线推理。仓库涵盖并行调度、优化内核、结构化输出和确定性采样等能力，但并非完整托管API服务的一键替代，部署前需核对硬件与依赖。
要点
- 首批提供离线推理代码
- 支持DeepSeek-V4.1-Flash
- 包含调度、采样与结构化输出能力
为什么值得看
模型之外的推理基础设施也影响成本和稳定性，开源实现能给自部署团队提供更直接的工程参考。
谁会受影响
部署DeepSeek模型、研究高性能推理的开发者和基础设施团队会受影响。
今天就能怎么试
先阅读仓库Requirements与运行示例，确认设备和依赖兼容，再用官方支持模型跑最小离线任务。
原始来源
1DeepInfer · DeepSeek（GitHub） · 发布日期未知✓ 已打开核对2DeepInfer: High-performance inference framework for DeepSeek models · Hacker News · 2026年10月20日✓ 已打开核对本条由 AI 根据上面的原始来源整理，经编辑审核后发布。数字和结论以原文为准，发现错误欢迎反馈。
相关动态
OpenAI推出常驻智能体Dots，支持跨应用持续办事
OpenAI发布由GPT-6 Astra驱动的Dots，为智能体配备云端电脑、浏览器和应用连接。它能持续跟进项目、吸收反馈，并在ChatGPT、Slack或Teams沟通。首批面向符合地区条件的Pro、Business Premium及管理员开启测试的企业用户。
ChatGPT开始推送GPT-6，可生成交互式回答界面
OpenAI于10月7日开始在ChatGPT的Chat体验推送GPT-6与Intelligent UI，回答可包含按钮、图表、表单和互动工具。付费档先开放，免费与Go档次日开始推送；该公告说明此次更新不改变Work和Codex所使用的模型。
DeepSeek开放搜索与抓取接口，支持智能体接入
DeepSeek于10月17日开放自研网页搜索能力，Search返回结构化检索结果，Fetch把单个网页转换为Markdown。两者复用DeepSeek API密钥，按有结果的成功请求计费，每1000次5元；空结果、失败及超时不收费。
微软业务智能体评测接入 HF，直接检查数据库结果
ThinkingBox 在 507 个有状态业务流程中检查智能体最终留下的数据库记录和副作用，并对每项任务重复运行二十次。HF 博文展示了工具调用看似正常却写错状态的案例，提醒平均成功率、至少成功一次和次次成功不能混为一谈。