搜索
社区分享视频提速工作流，组合少步采样与硬件超分
魔搭创作者 ReSerendipity 分享 MiniMax H3 的 ComfyUI 文生视频工作流，组合少步采样、注意力补丁与 RTX 硬件超分，并列出模型文件放置位置。仓库只包含流程文件，不包含权重；实际显存与速度需要在自己的设备验证。
51 分钟前动态英伟达发布通义四位量化版本，面向本地大显存设备
英伟达为通义闪电模型提供四位量化权重，文件约 96GiB，并列出两类经过验证的大显存设备与卸载配置。模型页提醒新的缩放因子压缩格式尚未进入上游运行框架，需要使用指定容器，不能仅替换模型名称，也不意味着普通笔记本即可部署。
51 分钟前动态星火四十亿参数模型更新后训练，支持三档思考预算
Spark-X2.6-4B 保留上一代架构，通过后训练加强编码、工具使用、长上下文及多语言能力。模型提供不思考、低和高三档推理预算，仓库给出 Transformers 与服务部署示例，适合把延迟、质量和设备资源一起衡量。本地试用应比较完整任务效果。
51 分钟前动态Flint 开放编程智能体模型，提供本地服务套件
Flint 是约 398 亿总参数、每词元激活约 25 亿参数的混合专家模型，面向查代码、修复问题和多轮工具使用。仓库提供原精度权重与配套服务套件，采用 Apache 2.0 许可；部署示例需要高显存专业显卡，量化版本应另外核对资源与效果。
51 分钟前动态深度求索更新闪电模型，强化编码与视觉任务并缩短输出
DeepSeek-V4.1-Flash-1017 在此前版本上更新推理、编程、智能体和视觉能力，模型页同时强调更短输出与更快任务执行。仓库以 MIT 许可开放权重，并提供新的提示编码参考实现；接入时需注意没有直接附带常见的 Jinja 聊天模板。兼容性需单独验证。
51 分钟前动态英伟达发布GLM-5.3-Flash的NVFP4本地量化模型
英伟达放出GLM-5.3-Flash的NVFP4本地量化权重：总参3200亿、激活180亿，支持文本、图像、视频，上下文约100万。模型卡称约166GiB显存，双路RTX PRO 6000或DGX Spark可用vLLM；新缩放格式上游未支持，须社区容器。国内与价格未知。
1 小时前动态Unsloth发布DeepSeek-V4.1-Flash-1017 GGUF，编程与智能体基准提升
Unsloth发布DeepSeek-V4.1-Flash-1017的GGUF量化。该版本称在推理、编程、智能体与视觉基准上明显优于前代，并缩短任务耗时和输出长度。可用llama.cpp、Ollama等本地运行，内存门槛高；价格与国内可用性未知。
1 小时前动态英伟达发布Qwen3.8-Flash-Next的NVFP4本地量化版
英伟达发布阿里Qwen3.8-Flash-Next的NVFP4量化版，总参1250亿、激活60亿，支持文本图像视频，上下文可至100万token。模型卡显示Blackwell配合vLLM验证，GPQA与工具基准接近BF16；新尺度压缩尚未进入上游vLLM，须用专用容器。国内可用性与价格未知。
1 小时前动态DGX Spark计划支持八机集群，统一内存扩至1TB
NVIDIA宣布DGX Spark将正式支持8节点集群，统一内存总量达到1TB，并展示大模型推理、并发与训练的扩展测试。用于设置集群的NVIDIA Sync支持计划年底提供；文章也解释网络拓扑与通信方案如何影响实际吞吐。
1 天前动态AI协助发现PHP高危漏洞，网站维护者面临集中修补
爱范儿梳理 PHP2Shell 漏洞披露与紧急修补过程，介绍 OpenAI 安全研究在构造可复现证据中的作用。事件涉及底层软件广泛使用带来的连锁影响；具体风险取决于运行版本与部署条件，不能把使用 PHP 都等同于已经遭入侵。
1 天前动态DeepSeek开源生产推理框架，首批提供离线运行能力
DeepSeek开放DeepInfer，介绍其生产服务使用的推理框架，首批代码支持DeepSeek-V4.1-Flash的离线推理。仓库涵盖并行调度、优化内核、结构化输出和确定性采样等能力，但并非完整托管API服务的一键替代，部署前需核对硬件与依赖。
3 天前动态LLMSpeed用直观演示比较本地模型和硬件速度
LLMSpeed把本地模型与硬件组合整理成可浏览的速度体验入口，覆盖多种消费级显卡、Mac和部分服务器设备。用户可按硬件或模型查看，帮助理解每秒令牌数对应的等待感受；网页展示只能辅助预筛选，不能替代自己任务的实机测试。
6 天前动态英伟达介绍RTX Spark，本地衔接编程测试与模型运行
NVIDIA介绍面向AI开发的RTX Spark笔记本和小型台式机路线，使用GB10平台，最高提供128GB统一内存。文章展示在Windows或WSL中运行本地编程模型、测试应用与定制模型的流程，并介绍与云端模型配合的路由方案。
2026年10月17日动态苹果展示MLX分布式推理，多台Mac共同运行巨型模型
苹果研究博客介绍新版MLX与RDMA分布式推理，以Muse Spark Open为例说明如何在多台Mac Studio间分担模型。官方报告四台设备达到每秒36个以上令牌，并给出部署思路；这不是普通单台Mac可复现的无条件速度承诺。
2026年10月16日动态FLUX 3小型版开放权重，8GB显卡也有运行方案
Black Forest Labs发布56亿参数的FLUX 3 Image Klein，支持生成、编辑和最多10张参考图。官方提供基础版、蒸馏版及多种量化构建，INT8方案面向最低8GB显存的部分RTX设备；模型采用FLUX Kommunity许可，使用前需核对条款。
2026年10月15日动态Meta开放Muse Spark模型权重，面向长程编程
Meta于10月15日开放Muse Spark Open权重。该多模态混合专家模型总参数8160亿、每次激活420亿，拥有100万词元上下文，支持长程编程和工具使用。官方同时提供多家API平台与多种推理框架的部署入口。
2026年10月15日动态Liquid开放240亿参数模型，主打本地智能体推理
Liquid AI发布LFM2.5-24B-A2B，总参数240亿、每次激活20亿，面向本地推理和工具调用。新版本把上下文扩展到131072令牌，提供基础与后训练权重；它是会输出推理过程的模型，实际速度要结合硬件和任务测量。
2026年10月15日动态谷歌与新加坡合作端侧反诈模型，识别本地对话套路
Google DeepMind与新加坡GovTech介绍基于Gemma微调的端侧反诈模型，针对当地常见诈骗对话优化。方案先用轻量分类器筛选，再进行上下文分析，计划在应用中分阶段部署；对话访问需要用户同意，处理尽量保留在设备内。
2026年10月14日动态开发者把嵌入模型改成转写工具，可在Mac离线运行
Embedding Gemma Transcribe保留EmbeddingGemma 2的音频编码器，另训练一个小型读取模块把表示映射成英文词语。作者提供Mac应用，称基础M3 MacBook Air约13秒可处理一小时音频，同时承认当前词错率仍高于领先语音模型。
2026年10月13日动态Janas从固态硬盘调度专家，让模型突破内存容量
Janas探索用纯C实现推理，并从SSD按需读取混合专家模型的部分数据，让模型文件大于机器内存时仍可运行。仓库给出特定笔记本上的对比结果，但磁盘、内存、量化和模型结构都会影响收益，不能简单理解为所有电脑都能高速跑大模型。
2026年10月13日