搜索
T2Quant:按任务与时间步量化扩散语言模型
论文指出扩散语言模型的量化敏感度随任务与去噪时间步变化,并可在无标签条件下预测。T2Quant据此在固定比特预算内分配激活精度,于三种模型、六个基准上最高将平均准确率提升6.7个百分点。价格、国内可用性及更多参数未知。
19 分钟前动态TimesFM零样本预报土壤水分与温度:日内领先、跨日落后
研究评估5亿参数时间序列模型TimesFM 1,对半干旱修复地27站15分钟土壤水分与温度做零样本预报。日内领先统计基线21%至76%,超过一天则落后6%至79%,作者归因于日周期对齐。全历史CatBoost总体未胜出,部分因短部署冷启动。普通CPU推理成本已量化,价格与国内可用性未知。
26 分钟前动态ProQuant:以专家质量优先压缩MoE超低比特量化
arXiv论文提出ProQuant,一种面向混合专家模型的仅权重训练后量化框架。PoP联合优化专家剪枝与比特分配,让高精度专家替代严重退化专家;RoCo用数学等价变换调整输入表征以降低路由漂移。摘要称其在多种生成任务上优于现有方法,但模型规模、具体指标、价格与国内可用性均未知。
30 分钟前动态平头哥发布千问量化版本,提供推理部署与精度对照
平头哥在魔搭提供 Qwen3.8-Flash-Next 的 W8A8 量化版本,对专家和注意力等部分采用八位权重与激活量化,并列出推理部署与评测对照。它是基于已有模型的部署资源,不应写成千问新一代基座模型发布。
50 分钟前动态清华团队提供代码推理模型量化包,支持本地运行
清华深圳国际研究生院机器人实验室在魔搭提供 VeriLoop E2 的 GGUF 版本,面向代码、数学与物理任务,模型规模为二百七十亿级。仓库列出多种量化档位及 llama.cpp 使用方式,便于根据内存和质量需求选择。
50 分钟前动态英伟达发布通义四位量化版本,面向本地大显存设备
英伟达为通义闪电模型提供四位量化权重,文件约 96GiB,并列出两类经过验证的大显存设备与卸载配置。模型页提醒新的缩放因子压缩格式尚未进入上游运行框架,需要使用指定容器,不能仅替换模型名称,也不意味着普通笔记本即可部署。
50 分钟前动态MiniMax 更新多模态闪电模型,面向编码与电脑操作
MiniMax-M3.1-Flash 是原生多模态混合专家模型,接收文字、图片与视频,最多支持百万词元上下文。模型页给出约 4280 亿总参数、230 亿活跃参数,并以稀疏注意力、量化感知训练和推测解码改进效率,面向工具与电脑任务。部署需核对完整权重资源。
50 分钟前动态Flint 开放编程智能体模型,提供本地服务套件
Flint 是约 398 亿总参数、每词元激活约 25 亿参数的混合专家模型,面向查代码、修复问题和多轮工具使用。仓库提供原精度权重与配套服务套件,采用 Apache 2.0 许可;部署示例需要高显存专业显卡,量化版本应另外核对资源与效果。
50 分钟前动态英伟达发布GLM-5.3-Flash的NVFP4本地量化模型
英伟达放出GLM-5.3-Flash的NVFP4本地量化权重:总参3200亿、激活180亿,支持文本、图像、视频,上下文约100万。模型卡称约166GiB显存,双路RTX PRO 6000或DGX Spark可用vLLM;新缩放格式上游未支持,须社区容器。国内与价格未知。
1 小时前动态KRAFTON发布Raon-1 mini预览:28.8B开源MoE
KRAFTON AI推出Raon-1 mini预览,总参数28.8B、激活4.3B,原生上下文262144 token,Apache 2.0发布。官方称其擅长韩语对话、推理与工具调用,支持思考模式及MXFP8、NVFP4量化。此为非最终预览,国内可用性与价格未知。
1 小时前动态Unsloth发布DeepSeek-V4.1-Flash-1017 GGUF,编程与智能体基准提升
Unsloth发布DeepSeek-V4.1-Flash-1017的GGUF量化。该版本称在推理、编程、智能体与视觉基准上明显优于前代,并缩短任务耗时和输出长度。可用llama.cpp、Ollama等本地运行,内存门槛高;价格与国内可用性未知。
1 小时前动态ComfyUI可加载Fibo 2.0:结构化长描述文生图权重已重打包
Comfy-Org发布Fibo 2.0的ComfyUI重打包权重,包含开发版与编辑加速版的bf16及int8文件,并配套Qwen3-VL 4B文本编码器和Flux2 VAE。权重版权归BRIA AI,采用CC BY-NC,仅限非商业用途。国内能否直接获取及商用报价均未知。
1 小时前动态Unsloth发布Flint GGUF:398亿参数编程模型可本地加载
Unsloth上线Recursive编程模型Flint的GGUF量化包,总参数398亿、每词元约激活25亿,支持推理与多轮工具调用。官方给出Terminal-Bench 2.1为54.9%、SWE-bench Verified为74.2%。可本地运行,国内可用性与价格未知。
1 小时前动态英伟达发布Qwen3.8-Flash-Next的NVFP4本地量化版
英伟达发布阿里Qwen3.8-Flash-Next的NVFP4量化版,总参1250亿、激活60亿,支持文本图像视频,上下文可至100万token。模型卡显示Blackwell配合vLLM验证,GPQA与工具基准接近BF16;新尺度压缩尚未进入上游vLLM,须用专用容器。国内可用性与价格未知。
1 小时前动态MiniMax-M3.1-Flash发布:原生多模态MoE,上下文最长100万token
MiniMax发布原生多模态混合专家模型MiniMax-M3.1-Flash,总参数约4280亿、每token激活约230亿,支持文本、图像与视频输入及最长100万token上下文。它面向编程、智能体与计算机操作,并采用稀疏注意力、量化感知训练和DSpark推测解码。价格与国内可用性未知。
1 小时前动态国产MOSS生图模型开源走红,社区快速推出适配
模思智能与 OpenMOSS 开源 MOSS-Image 后,社区迅速出现量化版本、加速模型及 ComfyUI 工作流。量子位称其上线四天累计获得一百三十万次下载。模型以自然画面质感受到关注,下载统计覆盖相关仓库,不代表独立用户数。
10 小时前动态英伟达介绍RTX Spark,本地衔接编程测试与模型运行
NVIDIA介绍面向AI开发的RTX Spark笔记本和小型台式机路线,使用GB10平台,最高提供128GB统一内存。文章展示在Windows或WSL中运行本地编程模型、测试应用与定制模型的流程,并介绍与云端模型配合的路由方案。
2026年10月17日动态英伟达发布多模态Nemotron,面向专用智能体
NVIDIA发布Nemotron 3.5 Super VL,将推理、工具调用和文本、图片、文档、视频理解放入同一模型。它采用1200亿总参数、120亿激活参数的混合专家结构,并提供NeMo定制路线及配套开放数据,适合针对业务流程后训练。
2026年10月16日动态FLUX 3小型版开放权重,8GB显卡也有运行方案
Black Forest Labs发布56亿参数的FLUX 3 Image Klein,支持生成、编辑和最多10张参考图。官方提供基础版、蒸馏版及多种量化构建,INT8方案面向最低8GB显存的部分RTX设备;模型采用FLUX Kommunity许可,使用前需核对条款。
2026年10月15日动态FLUX 三代开放图像模型加入布局控制,网页可直接试
FLUX.3 Image Klein 将文字生图、多参考图编辑和边界框布局控制放进同一模型。HF 提供默认十六步蒸馏版、基础版及量化接入示例,支持通过区域描述安排元素;官方 Space 已运行,可先验证布局和局部修改是否符合需求。适合先做小样对比。
2026年10月15日