英伟达发布GLM-5.3-Flash的NVFP4本地量化模型
英伟达放出GLM-5.3-Flash的NVFP4本地量化权重:总参3200亿、激活180亿,支持文本、图像、视频,上下文约100万。模型卡称约166GiB显存,双路RTX PRO 6000或DGX Spark可用vLLM;新缩放格式上游未支持,须社区容器。国内与价格未知。
要点
- 模型总参数3200亿、激活180亿,输入含文本、图像和视频,上下文最长约100万,显存约166GiB。
- 模型卡给出的FP4结果为GPQA Diamond 91.3%、ToolEvalBench 92.4%,对照BF16分别为92.1%和91.9%。
- 目前须使用社区vLLM容器,上游尚未支持其无损压缩缩放格式;国内可用性与价格未知。
为什么值得看
该检查点把智谱GLM-5.3-Flash量化为适合本地硬件的NVFP4版本,并用量化感知蒸馏尽量保持推理与工具调用表现,但新缩放格式尚未进入上游vLLM。
谁会受影响
面向希望在本地部署智能体、聊天、编程、RAG和多模态应用的开发者;验证硬件为双路RTX PRO 6000 Blackwell或双路DGX Spark。
今天就能怎么试
需在Linux上使用资料所述社区vLLM容器运行,待上游支持新格式后再切换;国内获取渠道与价格未知,本条未实测。
原始来源
1nvidia/GLM-5.3-Flash-FP4-Local (Model) · Hugging Face 热门模型 · 2026年10月9日✓ 已打开核对本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。
相关动态
Gemini 4 Argon正式开放,开发者可接入API
10月13日,谷歌扩大Gemini 4 Argon的开放范围,开发者可通过AI Studio等入口使用。首发标准输入和输出价格为每百万词元2美元、10美元,缓存输入优惠95%;Gemini应用和Antigravity的使用还取决于订阅等级。
MOSS 开放生图模型,支持中英长文字与复杂排版
MOSS-Image 结合 50 亿参数扩散模型和意图感知提示增强,重点处理长段中英文与信息密集图形。技术报告提供文字和布局评测,模型页已给出 Base、SFT 及运行说明,HF Space 也可查看并尝试带布局要求的生成流程。适合先检查文字分组效果。
DeepSeek更新V4.1闪电模型,降低编程任务成本
DeepSeek 发布 V4.1-Flash-1017,并同步更新网页、应用和接口,针对 Harness 等执行环境优化任务表现、输出长度与耗时。中文实测展示三维网页和游戏制作,同时出现建筑细节偏差;低价与成功交付仍需按完整任务一起评估。
OpenAI发布GPT-6.1 Sol,主打低价智能体
OpenAI于9月29日推出GPT-6.1 Sol,面向编程、电脑操作与专业工作。标准API每百万输入和输出词元分别为2美元、10美元,缓存输入为0.10美元;官方称部分任务表现接近Astra,已进入ChatGPT Work、Codex和API。