资讯/2026年10月3日
新工具

DwarfStar本地推理引擎支持大模型与持久会话

DwarfStar 4用C实现本地推理,面向高内存Mac及CUDA、ROCm设备,支持DeepSeek、GLM和Qwen的部分模型。项目结合量化、磁盘前缀缓存和本地API,还提供原生智能体入口;能否运行取决于具体模型版本与内存配置。

DH2 个来源742026年10月3日本地部署推理引擎开源工具

要点

  1. 面向高内存本地设备
  2. 提供聊天、API和智能体入口
  3. 量化与缓存方案影响容量和速度

为什么值得看

它提供了把大模型放在自有硬件上的另一种实现,适合研究数据本地化和长期使用成本。

谁会受影响

已有高内存设备、希望自行托管模型的独立开发者会受影响。

今天就能怎么试

先在官网硬件表核对机型和模型,再按Get started下载权重、编译对应后端,最后启动ds4或ds4-server。

免费未实测

原始来源

1DwarfStar 4 (ds4): Local DeepSeek V4.1, Qwen and GLM · DwarfStar · 发布日期未知✓ 已打开核对2From the creator of Redis; run LLM locally with ds4 · Hacker News · 2026年10月3日✓ 已打开核对

本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。

相关动态

新工具深度OpenAI·2026年9月29日

OpenAI推出常驻智能体Dots,支持跨应用持续办事

OpenAI发布由GPT-6 Astra驱动的Dots,为智能体配备云端电脑、浏览器和应用连接。它能持续跟进项目、吸收反馈,并在ChatGPT、Slack或Teams沟通。首批面向符合地区条件的Pro、Business Premium及管理员开启测试的企业用户。

O3 个来源55常驻智能体团队协作
新工具深度OpenAI·2026年10月7日

ChatGPT开始推送GPT-6,可生成交互式回答界面

OpenAI于10月7日开始在ChatGPT的Chat体验推送GPT-6与Intelligent UI,回答可包含按钮、图表、表单和互动工具。付费档先开放,免费与Go档次日开始推送;该公告说明此次更新不改变Work和Codex所使用的模型。

O1 个来源43交互界面知识创作
新工具深度DeepSeek 更新日志·1 小时前

DeepSeek开放搜索与抓取接口,支持智能体接入

DeepSeek于10月17日开放自研网页搜索能力,Search返回结构化检索结果,Fetch把单个网页转换为Markdown。两者复用DeepSeek API密钥,按有结果的成功请求计费,每1000次5元;空结果、失败及超时不收费。

D2 个来源21.346023716789972网页搜索开发接口
新工具深度Hugging Face Blog·2026年10月4日

微软业务智能体评测接入 HF,直接检查数据库结果

ThinkingBox 在 507 个有状态业务流程中检查智能体最终留下的数据库记录和副作用,并对每项任务重复运行二十次。HF 博文展示了工具调用看似正常却写错状态的案例,提醒平均成功率、至少成功一次和次次成功不能混为一谈。

H1 个来源68业务自动化智能体评测
DwarfStar本地推理引擎支持大模型与持久会话 · 潮汐情报