Mercor 把 AI 基准映射到美国职业版图后发现九成工作几乎没人测过

AI 基准越来越多,但它们到底测了多少真实工作?Mercor 挑出 29 个注重经济价值、尚未饱和的智能体基准,用 LLM 裁判把每道题对应到美国劳工部 ONET 体系里的具体任务。ONET 把美国劳动力拆成 923 个职业、18,797 项任务。按“至少 5 道题对应”的标准,只有 924 项任务、208 个职业算得上被覆盖,22 个职业大类里有 6 个一个都没有。

换算成工时,美国约 90% 的工作时间花在几乎没有基准覆盖的任务上。Mercor 的结论很直白:我们其实很难知道 AI 在美国人真正在做的工作上表现如何。

覆盖也不是随机的。被评为“AI 暴露度高”的任务,进入基准的概率约是低暴露任务的 6 倍;控制暴露度之后,工资总额越大的职业越容易被测;同一职业里被认为最重要的任务,覆盖概率是最不重要任务的 6–10 倍。于是软件工程和金融分析被测得满满当当,卡车驾驶和燃气厂操作几乎空白。最典型的例子是法律:律师的任务被大量覆盖,同样高度暴露于 AI 的法律秘书和法院书记员却几乎没人测。

Mercor 也承认结果只是初步的:29 个基准不是完整样本,只会让覆盖率被低估;每个大类设了基准数量上限,软件工程这类热门领域的覆盖也被压低了。但方向已经足够清楚:如果基准的数量和多样性不大幅增加,我们对 AI 经济能力的认识会一直留着大片盲区,中等收入知识工作的长尾尤其如此。

阅读原文