英伟达发布Qwen3.8-Flash-Next的NVFP4本地量化版
英伟达发布阿里Qwen3.8-Flash-Next的NVFP4量化版,总参1250亿、激活60亿,支持文本图像视频,上下文可至100万token。模型卡显示Blackwell配合vLLM验证,GPQA与工具基准接近BF16;新尺度压缩尚未进入上游vLLM,须用专用容器。国内可用性与价格未知。
要点
- 检查点约96GiB;RTX PRO 6000 Blackwell单卡需卸载n-gram表,FP8 KV缓存约85万token,DGX Spark在卸载条件下可达100万。
- 模型总参1250亿、激活60亿,另有510亿n-gram嵌入和40亿MTP;输入含文本、图像和视频,原生上下文26.2万token。
- QAD量化后GPQA Diamond为91.5%(BF16为92.2%),ToolEvalBench为88.7%(BF16为89.4%),使用受NVIDIA与Qwen两套许可约束。
为什么值得看
该检查点把阿里Qwen3.8-Flash-Next做成可商用的低精度本地模型,便于在Blackwell硬件上部署智能体、对话和检索增强应用,并尽量保持接近BF16的基准表现。
谁会受影响
面向需要现成预量化模型的开发者,以及构建AI智能体、聊天机器人和RAG系统的团队;基础模型来自阿里,量化检查点按第三方需求由英伟达侧提供。
今天就能怎么试
资料称2026年10月5日在Hugging Face发布,需在Linux和NVIDIA Blackwell上使用其提供的容器运行vLLM,因为新尺度格式尚未进入上游vLLM。国内可用性与价格未知,本条未实测。
原始来源
1nvidia/Qwen3.8-Flash-Next-FP4-Local (Model) · Hugging Face 热门模型 · 2026年10月9日✓ 已打开核对本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。
相关动态
英伟达发布Kumo Relational:关系库预测无需训练
英伟达发布预训练关系基础模型Kumo Relational,可直接对企业数据库做流失、需求或欺诈等预测,无需逐任务训练和特征工程。在15个库的41项任务上超过监督模型,SAP SALT的MRR高出AutoGluon约8%。国内可用性与价格未知。
Gemini 4 Argon上线,主打复杂专业任务
谷歌宣布Gemini 4 Argon已面向开发者和企业全球上线,可经AI Studio与Gemini平台API调用,Ultra及Pro订阅用户还可在应用和搜索中使用。模型主打编程、金融、法律、安全与科研等长流程任务,官方称Vals指数第一。入门价为每百万输入2美元、输出10美元,国内可用性未知。
Bria发布Fibo 2.0 Dev:编辑与文生图合一的开源基座
Bria发布开源模型Fibo 2.0 Dev,将图像编辑与文生图合并到同一非蒸馏基座。资料称截至2026年10月20日,它在开放权重图像编辑榜居首、文生图居次,约80亿参数且仅用授权数据训练。国内可用性与价格未知。
Unsloth发布DeepSeek-V4.1-Flash-1017 GGUF,编程与智能体基准提升
Unsloth发布DeepSeek-V4.1-Flash-1017的GGUF量化。该版本称在推理、编程、智能体与视觉基准上明显优于前代,并缩短任务耗时和输出长度。可用llama.cpp、Ollama等本地运行,内存门槛高;价格与国内可用性未知。