BenchLeader

速度:每秒输出 token 数

每秒输出 token 数:Artificial Analysis 覆盖的模型取其实测中位数,其余取 OpenRouter 实际流量的中位数,并按最近 7 天平滑。

截至 2026年11月16日,BenchLeader 在“速度”榜上将 Celeris-1 排在第一(799)。其后为 Mercury 2.5(527)和 Muse Ember(437)。

大模型速度统计:中位数与各档最快的模型 →

704 个模型 · 数据截至 2026年11月16日

261 / 261
#
1Celeris-17990.7 s
2Mercury 2.5527–
3新Muse Embermax4372.0 s
4Gemini 2.5 Flash-Litethinking366–
5Grok 4.20 Multi-Agent34911.8 s
6Mercury 2346–
7Gemini 3.5 Flash Lite3080.7 s
8Gemini 3.1 Flash Lite3010.8 s
9Beam 1.0288–
10Nemotron 3.5 Super VL2710.5 s
11Nemotron 3.5 Lightning2660.3 s
12Claude Haiku 5.5max2571.2 s
13DeepSeek V4.1 Flashmax2400.6 s
14NVIDIA Nemotron Nano 9B v2thinking235–
15Nemotron 3 Nano 30B A3B2340.4 s
16Muse Spark 1.3xhigh2212.6 s
17Nova Micro2150.3 s
18Gemini 2.5 Flashthinking213–
19o3-minihigh213–
20Gemini 3.5 Flashmedium2091.4 s
21Muse Spark 1.2xhigh2082.9 s
22GPT-5.4 Minixhigh2001.0 s
23Nemotron 3 Ultra 550B A55Bthinking1990.2 s
24Gemini 3 Flash无推理1991.3 s
25K2 Horizon 375B A23B198–
26Muse Spark 1.11931.8 s
27Beam 1.0 501B A23B1930.3 s
28新Agnes 2.5 Pro Theta190–
29Qwen3 Coder 30B A3B Instruct1850.8 s
30GPT-4.1 nano1840.9 s
31Nemotron 3 Super 120B A12Bthinking1830.6 s
32Muse Spark Openxhigh1800.4 s
33Llama 3.2 3B Instruct1780.2 s
34Gemini 3.6 Flashhigh1771.3 s
35gpt-oss-120blow1760.3 s
36Ling 3.0 Tiny1760.6 s
37Command A+1750.2 s
38新Gemini 4 Hydrogenxhigh1751.7 s
39DeepSeek V4.1 Flash 1017high1750.8 s
40gpt-oss-20blow1740.3 s
41Grok Build 0.11741.3 s
42Qwen3.7max1711.1 s
43GPT-5 nanohigh1652.9 s
44Deepseek v4 Flash Visionmax1633.1 s
45Nova 2.0 Litemedium162–
46North Mini Code157–
47Claude Sonnet 5.5max1521.5 s
48MiniMax M3.1 Flash1511.4 s
49Qwen3.5 Omni Flash1502.9 s
50Step 3.7 Flash1483.5 s
51Codestral 25081470.3 s
52Ministral 3 3B1470.3 s
53Mistral Medium 3.51460.6 s
54GPT-5.4 Nanoxhigh1450.9 s
55Mistral Small 4thinking1440.5 s
56DeepSeek V4 Pro 0424无推理1423.2 s
57GPT-5.1-Codex-Minihigh1381.7 s
58Nova Lite1380.3 s
59DeepSeek V4 Flashmax1360.7 s
60Step 3.5 Flash133–

常见问题

按每秒 token 数计算,最快的大模型是哪个?
截至 2026年11月16日,Celeris 的 Celeris-1 的输出速度为 799 token/秒,是 BenchLeader 上最快的。
又快又好的大模型中哪个最快?
在 BenchLeader Index 高于 55 的模型中,截至 2026年11月16日 最快的是 Grok 4.20 Multi-Agent,为 349 token/秒(Index 58.5)。
大模型的输出速度是如何测量的?
每秒输出 token 数:Artificial Analysis 覆盖的模型取其实测中位数,其余取 OpenRouter 实际流量的中位数,并按最近 7 天平滑。它统计首个 token 到达之后每秒流式输出的 token 数,会因提供商和时段而变化,请视为典型值而非保证值。
输出速度和延迟(首 token 延迟)有什么区别?
输出速度是开始输出后文本流出的快慢,单位为 token/秒;延迟即首 token 延迟,是等到第一个 token 到达所需的时间。推理模型会先思考,因此即使输出很快,也可能要几秒才开始。

引用格式:BenchLeader,《速度:每秒输出 token 数》,数据截至 2026年11月16日,https://www.benchleader.com/zh/leaderboards/speed。