资讯/2026年10月24日
新模型

英伟达发布GLM-5.3-Flash的NVFP4本地量化模型

英伟达放出GLM-5.3-Flash的NVFP4本地量化权重:总参3200亿、激活180亿,支持文本、图像、视频,上下文约100万。模型卡称约166GiB显存,双路RTX PRO 6000或DGX Spark可用vLLM;新缩放格式上游未支持,须社区容器。国内与价格未知。

H1 个来源0.00110686591940743631 小时前GLMNVIDIAFP4量化本地部署MoEvLLM多模态

要点

  1. 模型总参数3200亿、激活180亿,输入含文本、图像和视频,上下文最长约100万,显存约166GiB。
  2. 模型卡给出的FP4结果为GPQA Diamond 91.3%、ToolEvalBench 92.4%,对照BF16分别为92.1%和91.9%。
  3. 目前须使用社区vLLM容器,上游尚未支持其无损压缩缩放格式;国内可用性与价格未知。

为什么值得看

该检查点把智谱GLM-5.3-Flash量化为适合本地硬件的NVFP4版本,并用量化感知蒸馏尽量保持推理与工具调用表现,但新缩放格式尚未进入上游vLLM。

谁会受影响

面向希望在本地部署智能体、聊天、编程、RAG和多模态应用的开发者;验证硬件为双路RTX PRO 6000 Blackwell或双路DGX Spark。

今天就能怎么试

需在Linux上使用资料所述社区vLLM容器运行,待上游支持新格式后再切换;国内获取渠道与价格未知,本条未实测。

本站已实测

原始来源

1nvidia/GLM-5.3-Flash-FP4-Local (Model) · Hugging Face 热门模型 · 2026年10月9日✓ 已打开核对

本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。

相关动态

新模型深度Google AI Blog·2026年10月14日

Gemini 4 Argon正式开放,开发者可接入API

10月13日,谷歌扩大Gemini 4 Argon的开放范围,开发者可通过AI Studio等入口使用。首发标准输入和输出价格为每百万词元2美元、10美元,缓存输入优惠95%;Gemini应用和Antigravity的使用还取决于订阅等级。

G3 个来源66大模型开发接口
新模型深度Hugging Face Daily Papers·2026年10月16日

MOSS 开放生图模型,支持中英长文字与复杂排版

MOSS-Image 结合 50 亿参数扩散模型和意图感知提示增强,重点处理长段中英文与信息密集图形。技术报告提供文字和布局评测,模型页已给出 Base、SFT 及运行说明,HF Space 也可查看并尝试带布局要求的生成流程。适合先检查文字分组效果。

H4 个来源84中文生图版式控制
新模型深度Hugging Face 热门模型·6 天前

DeepSeek更新V4.1闪电模型,降低编程任务成本

DeepSeek 发布 V4.1-Flash-1017,并同步更新网页、应用和接口,针对 Harness 等执行环境优化任务表现、输出长度与耗时。中文实测展示三维网页和游戏制作,同时出现建筑细节偏差;低价与成功交付仍需按完整任务一起评估。

H2 个来源48.49141893673114国产模型低成本编程
新模型深度OpenAI News·2026年9月30日

OpenAI发布GPT-6.1 Sol,主打低价智能体

OpenAI于9月29日推出GPT-6.1 Sol,面向编程、电脑操作与专业工作。标准API每百万输入和输出词元分别为2美元、10美元,缓存输入为0.10美元;官方称部分任务表现接近Astra,已进入ChatGPT Work、Codex和API。

O3 个来源100编程模型智能体
英伟达发布GLM-5.3-Flash的NVFP4本地量化模型 · 潮汐情报