搜索
MoEZip:面向稀疏MoE的路由感知KV缓存压缩
MoEZip针对稀疏混合专家模型提出路由感知KV缓存压缩。它以路由分布的Fisher信息估计专家选择对扰动的敏感度,再结合注意力权重评分。保留10% KV时,LongBench和RULER平均分别比既有最优方法高24分和20分。
8 分钟前动态ProQuant:以专家质量优先压缩MoE超低比特量化
arXiv论文提出ProQuant,一种面向混合专家模型的仅权重训练后量化框架。PoP联合优化专家剪枝与比特分配,让高精度专家替代严重退化专家;RoCo用数学等价变换调整输入表征以降低路由漂移。摘要称其在多种生成任务上优于现有方法,但模型规模、具体指标、价格与国内可用性均未知。
31 分钟前动态F2G-Pose:单张RGB-D一次预测类别级位姿与形状
F2G-Pose获NeurIPS 2026接收,可从单张分割RGB-D图像一次预测类别级位姿、度量尺寸和相机系补全形状。它把冻结视觉基础特征提升到局部点云,并用DGCNN与混合专家Transformer融合几何。论文称SOPE和ROPE达领先精度,仅位姿推理28 FPS;价格与国内可用性未知。
50 分钟前动态上海AI实验室提供科研智能体模型,强调组织与验证
上海人工智能实验室在魔搭提供 Sage-A1.5,一款三百五十亿级混合专家模型,面向长程科学问题处理。模型卡强调任务编排、验证和开放科学发现,并提供常见推理框架兼容信息与体验入口;科研结果仍需要独立检验。
51 分钟前动态MiniMax 更新多模态闪电模型,面向编码与电脑操作
MiniMax-M3.1-Flash 是原生多模态混合专家模型,接收文字、图片与视频,最多支持百万词元上下文。模型页给出约 4280 亿总参数、230 亿活跃参数,并以稀疏注意力、量化感知训练和推测解码改进效率,面向工具与电脑任务。部署需核对完整权重资源。
51 分钟前动态Flint 开放编程智能体模型,提供本地服务套件
Flint 是约 398 亿总参数、每词元激活约 25 亿参数的混合专家模型,面向查代码、修复问题和多轮工具使用。仓库提供原精度权重与配套服务套件,采用 Apache 2.0 许可;部署示例需要高显存专业显卡,量化版本应另外核对资源与效果。
51 分钟前动态Ornith-1.5-122B发布:面向单卡部署的自改进多模态MoE
Ornith-1.5-122B是1220亿参数混合专家多模态模型,在Ornith-1.0基础上把自改进从脚手架与采样扩展到任务生成、策略发现和强化学习。模型卡称其可在单张80GB显卡部署,并给出多项编程、推理与智能体基准。价格与国内可用性未知。
1 小时前动态Unsloth发布Flint GGUF:398亿参数编程模型可本地加载
Unsloth上线Recursive编程模型Flint的GGUF量化包,总参数398亿、每词元约激活25亿,支持推理与多轮工具调用。官方给出Terminal-Bench 2.1为54.9%、SWE-bench Verified为74.2%。可本地运行,国内可用性与价格未知。
1 小时前动态MiniMax-M3.1-Flash发布:原生多模态MoE,上下文最长100万token
MiniMax发布原生多模态混合专家模型MiniMax-M3.1-Flash,总参数约4280亿、每token激活约230亿,支持文本、图像与视频输入及最长100万token上下文。它面向编程、智能体与计算机操作,并采用稀疏注意力、量化感知训练和DSpark推测解码。价格与国内可用性未知。
1 小时前动态上海AI实验室发布35B智能体模型Sage-A1.5
上海人工智能实验室发布35B混合专家智能体模型Sage-A1.5,基于Qwen3.6与Agents-A1,主打子任务并行编排、过程核验和开放科学探索。模型卡列出多项基准成绩,并说明可用Transformers、vLLM和SGLang加载。价格、国内可用性未知,本文未实测。
1 小时前动态Recursive发布编程智能体模型Flint,总参数398亿
Recursive发布编程智能体模型Flint,混合专家总参数398亿、每token约激活25亿,支持推理与多轮工具调用。官方自测Terminal-Bench 2.1为54.9%。BF16权重约80GB,建议单张B300或H200配合SGLang;价格与国内可用性未知。
1 小时前动态Meta开放Muse Spark Open:约8160亿参数多模态编程模型
Meta发布开源权重多模态混合专家模型Muse Spark Open,总参数约8160亿、每词元激活约420亿,上下文最长100万词元。模型可接收文本、图像、音频和视频,仅输出文本,面向代码阅读、调试与工具调用。检查点含BF16与NVFP4,国内可用性及价格未知。
1 小时前动态PyTorch 新版改善 Mac 推理速度和视频解码内存
社区团队介绍 PyTorch 2.15 的苹果图形后端改进,涵盖八位浮点、混合专家解码和多种原生计算内核,修复部分图像编辑路径。文章给出特定机器上的速度与视频解码内存比较,所试为候选发布包,环境要求和新旧版本输出都应核对。
3 天前动态Reflection 开放五千亿参数模型,配套编码执行框架
Beam 是面向编码和智能体工作的文本混合专家模型,总参数约 5010 亿、每词元激活约 230 亿,支持百万词元上下文。发布资料提供多种精度权重、推理与训练示例,以及专用 Rust 执行框架,权重采用 Apache 2.0 许可。大型权重仍要求充足部署资源。
2026年10月16日动态英伟达发布多模态Nemotron,面向专用智能体
NVIDIA发布Nemotron 3.5 Super VL,将推理、工具调用和文本、图片、文档、视频理解放入同一模型。它采用1200亿总参数、120亿激活参数的混合专家结构,并提供NeMo定制路线及配套开放数据,适合针对业务流程后训练。
2026年10月16日动态Meta开放Muse Spark模型权重,面向长程编程
Meta于10月15日开放Muse Spark Open权重。该多模态混合专家模型总参数8160亿、每次激活420亿,拥有100万词元上下文,支持长程编程和工具使用。官方同时提供多家API平台与多种推理框架的部署入口。
2026年10月15日动态视频决策模型直接定位片段和选答案,复用视觉计算
VideoJev 把视频定位和选择题转成对时间区间与候选项的评分,减少逐词生成答案的开销。它提供 40 亿及混合专家版本,并设计缓存和联合推理,让同一段视频面对多次问题时复用计算;论文报告了速度与定位质量实验。
2026年10月14日动态Janas从固态硬盘调度专家,让模型突破内存容量
Janas探索用纯C实现推理,并从SSD按需读取混合专家模型的部分数据,让模型文件大于机器内存时仍可运行。仓库给出特定笔记本上的对比结果,但磁盘、内存、量化和模型结构都会影响收益,不能简单理解为所有电脑都能高速跑大模型。
2026年10月13日动态德国Kolibri开放模型权重,支持百万令牌上下文
Aleph Alpha发布Kolibri英德双语混合专家模型,总参数780亿、每次激活30亿,支持最高100万令牌上下文,并以Apache 2.0许可开放权重。它为需要自有部署和英德资料处理的团队增加选择,中文能力不能由这些指标直接推定。
2026年10月3日动态H 公司发布跨界面智能体模型,统一操作屏幕和工具
Holo4 提供 270 亿稠密版和混合专家版,能通过图形界面、代码、MCP 和 API 执行任务,也覆盖桌面、网页与安卓。团队公开基准执行轨迹,并给出模型与服务入口,便于查看任务过程;不同榜单的成本与测试设置仍需分辨。
2026年9月28日