返回资讯与指南

Artificial Analysis 模型榜单测试项目解读

作者 ·

先看要点

  • 先按自己的工作任务看测试,再参考综合分。
  • pass@1 是单次通过率;Elo 是相对评分,不能当百分比。
  • 能力、价格和速度分别比较;测评分数不代表订阅内可用额度。
按预算比较套餐

按这些测试查看模型排名、套餐与用量限制

作者与编辑核验方法 · 提交纠错与来源证据

文章目录
  1. 首页几列数字分别表示什么
  2. 当前十项能力测试在测什么
  3. 名字接近的测试有什么区别
  4. pass@1 和 Elo 不能按同一种百分比读
  5. 幻觉率低也要搭配正确率看
  6. 为什么旧截图里的测试项目不一样
  7. 根据工作挑选相关项目

选模型时,先看榜单测的任务是否接近自己的工作。Artificial Analysis 模型榜单把能力、费用和速度放在同一页;HLE、SciCode、AA-LCR、GDPval-AA 等测试,则分别考察学术解题、科研编程、长文理解和职业任务。读懂这些名称,才能知道一个高分具体说明了什么。

可以把榜单分成两部分来读:能力评测回答模型能做对什么,性能与成本指标回答使用它要等多久、花多少钱。 先用相关测试筛选候选,再比较费用和等待时间,比只看综合排名更有用。

截至 2026 年 10 月 15 日,综合指数为 Artificial Analysis Intelligence Index v4.3.2,包含十项评测。阅读旧文章或截图时,需先核对版本,因为计入总分的项目会调整。当前指数说明

首页几列数字分别表示什么

指标 通俗解释 阅读时注意什么
Intelligence Index 多项能力测试按权重合成的总分 越高表示在这套评测中整体表现越好,不能直接当成你的任务成功率。
Cost per Task 完成一项综合评测任务的加权平均 API 成本 越低越省;它对应评测工作量,不是你的订阅月费或一个完整项目的报价。
Output Speed / Tokens per Second 开始生成后,每秒输出多少 token 越高通常输出越快;token 是文本计量单位,不能直接当作中文字数。
Latency / First Chunk 从请求发出到收到第一个响应片段,要等多久 秒数越低,通常越快开始返回内容;不表示完整答案已经写完。
Total Response / End-to-End Response Time 收到完整响应总共等多久 要连同思考时间、输出长度和测试条件看。
Context Window 一次请求可容纳的上下文规模 容量越大,能放入的材料通常越多;能否正确理解,要看长文档评测。

AA 默认的速度测试使用约 10k 输入 token。请求长度、所用端点和网络位置都会影响速度与延迟,因此榜单上的数值应结合你常用的服务渠道来看。性能测试方法、成本与指标定义

模型可能先思考很久,再快速输出。比较 tokens/s 时,也要看它何时开始返回内容,以及完整答案需要多久。

当前十项能力测试在测什么

v4.3.2 分为四组:代理任务占 30%,编程占 20%,通用能力占 30%,科学推理占 20%。十项测试按不同权重合成总分。当前分组与权重

测试项目 主要在问什么 怎样理解成绩 总分权重
AA-Briefcase v1.1 给一批工作资料,能否交出合格的表格、演示稿、备忘录等成果? 同时看要求完成度、分析质量和呈现质量,综合形成 Elo 评分。 15%
GDPval-AA v2.1 面对不同职业的真实工作题,能否使用工具完成交付? 匿名比较不同模型的成果,用 Elo 表示相对表现。 10%
AutomationBench-AA 能否操作邮箱、表格、CRM、工单等模拟系统,正确完成业务流程? 主分看目标完成比例;某项任务只要触发限制违规,该任务就记零。 5%
Terminal-Bench 4.0 能否在终端里实际执行操作,解决工程、运维、数据和计算任务? 每项任务的全部验证测试通过才算成功,报告单次尝试的平均成功率。 10%
SciCode 能否把科学知识和推理转成可运行的 Python 程序? AA 按测试子题计分,检查程序执行结果;它更偏科研编程。 10%
AA-Omniscience 到底知道多少事实?不知道时会承认,还是编一个答案? 正确率与幻觉情况要一起看,避免把少回答误读成可靠且有用。 15%
GDP.pdf 读过长篇专业 PDF 后,能否依据材料把多项要求答完整? 主分 All-pass 要求一次回答满足该题全部评分条件。 10%
AA-LCR v1.1 能否联系长文档不同位置的信息,完成推理并得出正确答案? 看开放题答案的平均通过率,反映实际长文理解能力。 5%
HLE / Humanity’s Last Exam 能否解答专家设计的高难度数学、科学和人文学术问题? 衡量高难度学术知识与推理;AA 使用其中的纯文本题集。 10%
CritPt 能否解决研究级物理问题,给出可验证的数值、公式或函数? 更适合观察复杂物理推理能力,要核对是否使用工具及相同题集。 10%

能力分数通常越高越好,幻觉率、费用和用时通常越低越好。单项页面可能同时展示几种指标,读数字前先确认选中的是哪一项。

名字接近的测试有什么区别

AA-Briefcase 与 GDPval-AA 都关心实际交付。 前者把任务放进复杂项目背景,要求模型从大量资料中找依据、完成分析并制作文件;后者覆盖多种职业的工作题。它们比单纯问答更接近“把一项工作交给 AI”。不过,AA-Briefcase 当前每个任务独立运行,并不继承模型自己上一项任务的成果,因此不能把它理解成持续工作数周的可靠性测试。AA-Briefcase 任务结构、GDPval-AA 工作任务

AutomationBench-AA 关心系统是否被正确操作。 模型需要调用接口,让数据进入正确的系统,并遵守任务限制。页面上的 Score 与 Tasks Completed 也要分开看:前者按完成的目标比例计分,后者要求任务的全部目标都完成且没有违规。AutomationBench-AA 评分说明

Terminal-Bench 与 SciCode 对编程的要求不同。 Terminal-Bench 让代理在环境里实际做事,再用测试验收。SciCode 要求理解科学问题并写出正确计算程序。如果你主要做网站业务开发,终端执行能力通常更贴近部分工作;如果你做科研计算,SciCode 的内容更值得细看。具体项目仍应试用验证,不能把单项成绩直接换算成某个编辑器或编程代理的成功率。Terminal-Bench 实施条件、SciCode 任务说明

GDP.pdf 与 AA-LCR 都要求读懂材料,但验收重点不同。 GDP.pdf 尤其强调多条件回答的完整性。一个回答满足了大部分要求,仍可能因为漏掉一项而没有通过 All-pass。AA-LCR 更直接关注跨段落、跨材料推理后能否回答正确。两者都比标称 Context Window 更能帮助判断长文档处理能力。GDP.pdf 评分、AA-LCR 说明

pass@1 和 Elo 不能按同一种百分比读

pass@1 表示单次尝试成功的比例。 一道题独立测三次,再对结果求平均,仍然可以报告 pass@1。它不表示允许模型试三次、挑一个成功答案交上来。对于代理任务,一次尝试也可能包含多轮工具调用,而不是只生成一次文字。通用评分方法

Elo 表示同一评测体系里的相对实力。 在 GDPval-AA 中,裁判对匿名成果做两两比较,再拟合评分。分数 1800 不能读成 1800 分满分,也不能解释为达到人类能力的某个百分比。GDPval-AA Elo 定义

综合 Intelligence Index 是各项结果按规则处理、加权后的分数。总分 60 表示模型在这套指数中的表现,不能换算成“我的日常任务有 60% 能做对”。

幻觉率低也要搭配正确率看

AA-Omniscience 同时看模型知道多少,以及它能否识别自己不知道的部分。大量拒答可能减少错误,却未必能解决问题,所以低幻觉率要搭配正确率看。

它还单列一个范围为 -100 到 100 的 Omniscience Index:答对加分、答错扣分、拒答不扣分。这个指数与主榜的 Intelligence Index 是两个指标。页面上的 Hallucination Rate 按“答错 ÷(答错+部分正确+未作答)”计算,不能直接当作“所有回答里有多少百分比是假的”。AA-Omniscience 指标定义

如果你用 AI 查事实、整理资料或写报告,可以一起看正确率、幻觉率,再用自己熟悉的资料试一轮,检查它是否会遗漏依据、混淆材料,或者把推测写成事实。

为什么旧截图里的测试项目不一样

有些测试已经移出综合指数,但仍能在独立页面或旧文章中看到。下面这些名称尤其常见。

常见项目 主要测什么 当前阅读方式
GPQA Diamond 高难度科学知识与推理问答 已移出当前综合指数。
MMLU-Pro 多学科知识与推理选择题 已移出当前综合指数,属于历史评测。
LiveCodeBench 以持续收集的编程竞赛题衡量代码能力 已移出当前综合指数;不能据此代表当前终端代理成绩。
AIME 2025 数学竞赛问题求解 已移出当前综合指数。
IFBench 对格式、计数、文字处理等明确约束的遵循能力 仍作为独立项目测试,但不计入当前综合分。

项目状态以 AA 的版本历史和独立评测说明为准。比较截图时,先对齐指数版本、单项版本和模型的推理配置。

SciCode 和 CritPt 目前标为 Under review,仍计入 v4.3.2。 相关数据集正在复核,修订和重测可能改变分数,因此小幅领先需要谨慎看待。SciCode 复核说明、CritPt 复核说明

根据工作挑选相关项目

先列出自己最常交给 AI 的任务,再找内容接近的测试。下面的对应关系可作为筛选起点。

你的工作 可以优先参考的项目 仍需自己检查的部分
处理长报告和多份材料 AA-LCR、GDP.pdf 能否准确引用你提供的材料,有没有遗漏条件。
制作分析表格、文档和演示稿 AA-Briefcase、GDPval-AA 交付文件能否直接使用,计算与内容是否正确。
执行脚本、处理工程环境、排查问题 Terminal-Bench 你的仓库、依赖、工具权限和测试是否适配。
做科学计算或复杂学术问题 SciCode、HLE、CritPt 题目领域是否相近,代码、推导和结果是否经得起验证。
跨系统自动处理业务流程 AutomationBench-AA 自己系统的权限、业务规则与最终数据是否正确。

当前综合评测以英文和文本任务为主,中文写作、图像理解等能力还应结合相应单项看。模型名称后面的 high、max 等配置,以及测试使用的工具环境,也会影响比较条件。评测范围与设置

选出候选模型后,用同一份真实任务试一轮:提供相同材料,要求相同交付物,记录结果是否正确、需要修改多少、等待多久和花费多少。准备购买编程订阅时,再到 Coding Plans 核对套餐包含的模型、额度和使用条件。把榜单表现与自己的试用结果放在一起,才更容易选到适合日常工作的模型。