资讯/2026年10月17日
研究

Mercor绘制AI评测覆盖图,揭示真实工作仍有盲区

Mercor把29个智能体基准映射到923种职业及18797项任务,研究现有评测覆盖了哪些经济活动。其方法下,大量美国工作时间对应的任务仍缺少充分评测;这说明排行榜高分不能直接回答某个岗位或业务流程是否已经能被可靠自动化。

MH2 个来源882026年10月17日模型评测企业应用数据研究

要点

  1. 初始索引包含29个基准
  2. 职业地图覆盖923种职业分类
  3. 基准覆盖不足不代表AI一定不能完成任务

发生了什么

Mercor发布AI评测覆盖地图,把29个基准映射到美国职业与任务分类。研究涉及923种职业和18797项任务,试图回答现有模型榜单究竟测到了哪些实际工作。它关注的是评测覆盖,而不是直接给出岗位自动化率。1

具体是什么

地图允许按职业类别查看覆盖程度。在文中采用的一种口径下,只有208种职业至少有一项任务获得5个评测题的覆盖。作者据此指出,大量工作时间对应的任务仍缺乏充分评测。1 这个结果有两个方向的含义:榜单高分不能证明模型已经能做好每种工作;没有评测也不能证明模型一定做不到。它说明的是证据不足,需要补充与具体场景相关的测试。

怎么用

先打开交互地图,找到与你业务相近的职业,再把真实工作拆成可检查的步骤。例如一项内容研究任务,可能包含找资料、识别发布时间、比较事实、写摘要和检查链接,每一步都应有自己的验收标准。 从过去做过的任务中挑样本,保留原始材料和人工判断,再让模型在相同条件下执行。除了正确率,还要记录遗漏、人工返工、耗时和费用。这样得到的结果比引用一个通用榜单更接近自己的采购决定。

意味着什么

AI选型正在从“哪个模型排名更高”转向“它能否完成我的工作”。对小团队,这是一个可以自己掌握的环节:不一定要建立庞大的评测平台,先保存一组真实且有代表性的任务,就能减少凭印象换工具。 对内容创作者,地图也提供了报道模型能力的新角度。可以解释某个榜单覆盖了什么、没有覆盖什么,而不是把一个百分数直接变成替代多少人的结论。

局限与风险

研究的基准选择、职业分类、任务映射与覆盖阈值都会影响结果。它基于美国经济分类,不能无条件外推到中国所有岗位或小团队的工作结构。1 此外,任务被一个题目覆盖,也不代表现实中的复杂变化都被测试。建议把地图当成寻找证据空白的工具,再补自己的样本。我们没有重新计算其统计结果,文中的数字来自研究页面,使用建议则是面向实际选型的分析。

为什么值得看

小团队选择模型时,应优先补一组自己的真实任务,避免把通用榜单当成业务验收。

谁会受影响

采购AI工具、设计自动化流程和报道模型能力的老板、开发者与创作者会受影响。

今天就能怎么试

打开交互地图查看与你的业务相近的职业,再列出实际工作步骤,挑选有明确正确答案的样本建立自己的评测。

免费未实测

原始来源

1A benchmark map of the US economy · Mercor Research · 发布日期未知✓ 已打开核对290% of US working hours are spent on tasks not covered well by AI benchmarks · Hacker News · 2026年10月17日✓ 已打开核对

本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。

相关动态

研究深度Hugging Face Daily Papers·3 天前

开放世界模型结合游戏引擎,单卡生成实时可玩画面

Matrix-Game 4.0 让轻量引擎负责规则和状态,视频模型将低多边形画面转成细致视觉,编码智能体则修改场景与玩法。论文报告 RTX 5090 上实现 480p、60 帧交互,按键到显示延迟为 112 毫秒,并宣布开放代码与资产。实时帧率需与响应延迟分开看。

H1 个来源15.733188594427858世界模型互动游戏
研究深度Hugging Face Daily Papers·2026年10月15日

业务智能体基准检查执行过程,完成任务也可能判失败

BizAgentBench 将 789 份知识文档、601 项业务工具和 50 个长流程任务放进可执行环境,既核验最终目标,也检查中间步骤约束。论文显示只看任务完成会掩盖无效操作;HF 早期标题为 BizBench,arXiv 修订版已改名。同时还应记录任务过程中的工具调用成本。

H2 个来源89企业智能体流程验收
研究深度Hugging Face Daily Papers·2026年10月7日

中英密集文字生图基准发布,专测海报长文与布局

UltraText Bench 提供 432 条人工检查的提示,覆盖 24 类真实场景,中英文各半,每张图要求四至十二处文字。评估分别看文字准确、清晰度、空间安排和场景质量,揭示快速模型可能更清晰却更容易写错字的取舍。适合中文海报选型。

H2 个来源81中文生图海报设计
研究深度爱范儿·1 天前

AI协助发现PHP高危漏洞,网站维护者面临集中修补

爱范儿梳理 PHP2Shell 漏洞披露与紧急修补过程,介绍 OpenAI 安全研究在构造可复现证据中的作用。事件涉及底层软件广泛使用带来的连锁影响;具体风险取决于运行版本与部署条件,不能把使用 PHP 都等同于已经遭入侵。

爱1 个来源21.426844542759238AI安全网站运维
Mercor绘制AI评测覆盖图,揭示真实工作仍有盲区 · 潮汐情报