BenchLeader

大模型有多快?速度统计

数据截至 2026年11月16日 · 最后更新于 · BenchLeader

BenchLeader 已排名模型的输出速度中位数约为 82 token/秒,开始回答所需时间(首 token 延迟)的中位数为 1.1 秒;数据由 Artificial Analysis 和 OpenRouter 测量。BenchLeader 追踪的最快模型是 Celeris-1,约 800 token/秒(Artificial Analysis)。在 BenchLeader Index 60 分及以上的模型中,Muse Spark 1.2 最快,约 210 token/秒。

输出速度与 BenchLeader Index(已排名模型)BenchLeader 已排名模型的输出速度中位数约为 82 token/秒,开始回答所需时间(首 token 延迟)的中位数为 1.1 秒;数据由 Artificial Analysis 和 OpenRouter 测量。输出速度与 BenchLeader Index(已排名模型)1.0101001,0002530354045505560657075BenchLeader Index每秒输出 token 数(对数)Claude Fable 5.2:72.7、110Gemini 4 Carbon:68.9、64Claude Opus 5.5:68.4、120GPT-6 Astra:67.3、41Claude Fable 5.1:66.7、89GPT-6.1 Sol:66.6、50Claude Fable 5:65.4、50GPT-5.6 Sol:65.3、1.0e+2Gemini 4 Argon:65.3、66Claude Opus 5:65.0、80Muse Wonder:64.4、70Claude Sonnet 5.5:64.2、150GPT-5.5:64.1、81GPT-6.1 Terra:64.1、72Gemini 4 Hydrogen:63.4、170GPT-5.4:63.1、73Claude Opus 4.7:63.1、48GPT-5.4 Pro:63.1、6.5GPT-5.3-Codex:62.9、94GPT-6 Sol:62.6、130Gemini 3.5 Flash:62.5、180Claude Opus 4.6:62.5、35Muse Spark 1.1:62.2、190Gemini 3.7 Flash:62.1、95Kimi K3.1 Pro:61.8、30Muse Spark 1.3:61.6、160Muse Spark 1.2:61.5、210Claude Opus 4.8:61.1、85Gemini 3.6 Flash:61.0、180Kimi K3:60.7、76Grok 4.6:60.6、73o3:60.4、130Gemini 3.1 Pro:60.4、110Gemini 3.8 Flash:60.2、120GLM-5:60.2、69GPT-5.6 Terra:60.1、97Qwen3.7:60.0、170GPT-5.2:59.9、76Claude Opus 4.5:59.7、40Kimi K2.5:59.4、43Grok 4.5:59.3、49Kimi K2.6:59.3、41Qwen3.6 Plus:59.0、52GPT-5:59.0、82Claude Sonnet 5:59.0、99GLM 5.2:58.9、69Gemini 3 Flash:58.9、200GLM 5.3:58.8、88Qwen3.8 Max:58.7、59GPT-5-Codex:58.6、120Grok 4.20 Multi-Agent:58.5、350Grok 4.20:58.3、110GPT-5.6 Luna:58.2、110Grok 4:58.1、69Claude Opus 4.1:58.1、14Inkling 2 Small:57.9、100Claude Sonnet 4.5:57.9、40GLM 5.3 Flash:57.8、54DeepSeek V4.1 Flash 1017:57.7、170Qwen3.7 Plus:57.6、57Claude Sonnet 4.6:57.6、43GPT-5.2-Codex:57.6、45GPT-5.1:57.5、88MiMo-V2.6-Pro:57.5、54Grok 4.7:57.4、68Qwen3.5 Plus:57.4、80DeepSeek V4 Flash:57.2、82GPT-5.5 Instant:56.9、130DeepSeek V3.2:56.7、44Hy4:56.7、94Claude Haiku 5.5:56.7、230MiniMax M2.7:56.6、42GPT-5 mini:56.6、70Grok 4.3:56.5、85Qwen3.5 397B A17B:56.4、54MiMo-V2.5:56.3、28Step 3.5 Flash:56.3、130GPT-5 nano:56.2、110MiniMax M3:56.1、120Gemma 4 26B A4B:56.1、76Step 5 Preview:56.0、120DeepSeek V4 Pro:56.0、80Qwen3.6 27B:55.9、60Hy3:55.7、77MiMo-V2.5-Pro:55.5、68DeepSeek V3.1 Terminus:55.5、16GLM 5.1:55.4、60Nemotron 3 Ultra 550B A55B:55.4、110Gemini 2.5 Pro:55.2、110GPT-6 Luna:55.1、100GPT-5.4 Mini:55.1、200Qwen3.8 27B:55.1、73MiMo-V2.6-Flash:54.8、44Muse Glimmer:54.4、82MiniMax M3.1 Flash:54.3、150Beam 1.0 501B A23B:54.2、190Qwen3.5-122B-A10B:54.1、92Kimi K2.7 Code:53.9、55Qwen3.8-Flash-Next:53.9、80GPT-5.4 Nano:53.9、150MiniMax M2.5:53.7、41Muse Spark Open:53.5、180Qwen3 VL 235B A22B Instruct:53.5、30Nova 2.0 Pro Preview:53.4、98Step 3.7 Flash:53.0、150Mistral Large 4:52.9、97Gemini 3.1 Flash Lite:52.6、300DeepSeek V3.1:52.4、81Kimi K2 Thinking:52.3、130Qwen3-Next 80B A3B:52.2、120Muse Ember:52.1、440Inkling Small:52.0、120Qwen3.5-27B:52.0、38Gemma 4 31B:51.9、64Qwen3 235B A22B 2507:51.8、110Qwen3.5 Flash:51.8、94Qwen3.6 35B A3B:51.8、120GLM 4.7:51.7、39Kimi K2 0905:51.7、45Ling 3.0 Flash:51.7、120GLM-4.5:51.6、27MiniMax-M2:51.5、1.0e+2Gemini 3.5 Flash Lite:51.4、310Qwen3.8 2.4T A95B:51.4、41GLM-4.6:51.4、34Qwen3 32B:51.2、40Nemotron 3 Super 120B A12B:51.1、180GLM 4.7 Flash:51.0、42Agnes 2.5 Pro Theta:50.8、190GLM 4.5V:50.8、37Ling 3.1 Flash:50.8、94Inkling:50.4、120Qwen3.5-9B:50.4、83o3-mini:50.2、190Qwen3.5-35B-A3B:49.9、27MiniMax-M1:49.6、38K2 Horizon 375B A23B:49.5、200Mercury 2:49.2、350DeepSeek R1 0528:49.1、32Seed-OSS-36B-Instruct:49.1、35Qwen3 Coder 480B:48.9、82Solar Pro 4:48.9、76GPT-4.1:48.7、110Nova 2 Lite:48.7、130Mistral Medium 3.1:48.3、82Qwen-Plus:48.3、49Qwen3 30B A3B 2507:48.0、52Claude Haiku 4.5:47.7、86Nemotron 3 Nano 30B A3B:47.4、200Ring-2.6-1T:47.1、110DeepSeek V3 0324:46.9、130Ling Flash 2.0:46.8、36GLM-4.5-Air:46.7、65Qwen3.5-4B:46.7、34Mistral Medium 3.5:46.6、150Qwen3 14B:46.6、60GPT-4.1 mini:46.3、96gpt-oss-120b:46.1、130Beam 1.0:45.9、290Command A+:45.9、180Nemotron 3.5 Super VL:45.8、270gpt-oss-20b:45.6、170Mistral Large 3:45.1、84Mistral Medium 3:44.3、28Qwen3.6 Flash:43.8、77Gemma 4 E4B:43.2、65Qwen2.5 72B:43.1、30GPT-4o:42.8、110Devstral 2:42.7、95Qwen2.5 Coder 32B Instruct:42.5、31Qwen3 Coder Next:42.3、67Command A:42.1、53Mistral Small 3.2:42.0、56Llama 4 Maverick:41.8、65Nemotron 3.5 Lightning:41.4、270GPT-4 Turbo:41.1、120Granite 4.2 8B:41.1、54Solar Pro 3:40.9、120Mistral Large 2:40.8、75Gemma 2 27B:40.8、47Llama 3.1 70B:40.7、18Nova Pro:40.5、98Mistral Small 4:40.5、140Mistral Large 24.02:40.5、66North Mini Code:40.2、160Llama 3.3 70B:39.9、76Magistral Small 1.2:39.8、63Ministral 3 14B:39.8、74Gemma 3 27B:39.7、38Phi-4:39.3、32Mistral Small 3:39.2、68Nova Micro:39.2、210Llama 3-70B:38.7、47Ministral 3 8B:38.6、85Mistral Small 3.1:38.4、42Llama 4 Scout:38.2、1.0e+2Nova Lite:38.2、140Mixtral 8x22B Instruct:37.4、92Gemma 3 12B:37.2、63GPT-4.1 nano:36.9、180Ministral 3 3B:36.6、150Llama 3.2 3B Instruct:35.6、180Llama 3.2 Instruct 11B (Vision):35.6、21GPT-4o mini:35.2、59Llama 3-8B:34.8、62Gemma 3 4B:33.6、41Llama 3.1 8B:33.0、120Mixtral 8x7B:30.8、62Llama 3.2 1B Instruct:30.6、110Mistral 7B v0.3:28.9、100Muse EmberGrok 4.20 Multi-AgentMercury 2Muse Spark 1.2Claude Opus 5.5Claude Fable 5.2速度由 Artificial Analysis 和 OpenRouter 测得Index: BenchLeader v1.4 · 数据截至 2026年11月16日www.benchleader.com/stats/llm-speed
BenchLeader 已排名模型的输出速度中位数约为 82 token/秒,开始回答所需时间(首 token 延迟)的中位数为 1.1 秒;数据由 Artificial Analysis 和 OpenRouter 测量。每个点是一个有速度测量值的已排名模型;标出名字的点是各 Index 档位中最快的模型。悬停或点按某个点可查看其速度,也可以按名称查找模型。 图表图片(SVG)

关键数据

每条数据都有独立链接(#),可直接引用。

  • 已排名模型的输出速度中位数约为 82 token/秒,覆盖 210 个有速度测量值的已排名模型(由 Artificial Analysis 和 OpenRouter 测量;BenchLeader,2026年11月16日)。 #
  • 首 token 延迟的中位数为 1.1 秒,覆盖 189 个已排名模型(由 OpenRouter 和 Artificial Analysis 测量;BenchLeader,2026年11月16日)。 #
  • BenchLeader 追踪的最快模型是 Celeris 的 Celeris-1,约 800 token/秒(Artificial Analysis;BenchLeader,2026年11月16日)。 #
  • 在 BenchLeader Index 60 分及以上的已排名模型中,最快的是 Muse Spark 1.2,约 210 token/秒(Artificial Analysis;BenchLeader,2026年11月16日)。 #
  • 在 Index 60 分及以上的已排名模型中,首 token 延迟最低的是 Claude Opus 4.8,为 0.77 秒(OpenRouter;BenchLeader,2026年11月16日)。 #
  • 在所有已排名模型中,首 token 延迟最低的是 Llama 3.2 3B Instruct,为 0.21 秒(OpenRouter;BenchLeader,2026年11月16日)。 #
  • BenchLeader Index 第一名 Claude Fable 5.2 的输出速度约为 110 token/秒,首 token 延迟为 3.9 秒(输出速度由 Artificial Analysis 测量,首 token 延迟由 OpenRouter 测量;BenchLeader,2026年11月16日)。 #

各质量档位最快的模型

Index 档位有速度数据的模型最快的模型token/秒测量方
65+10Claude Opus 5.5 Anthropic120Artificial Analysis
60–6527Muse Spark 1.2 Meta210Artificial Analysis
55–6055Grok 4.20 Multi-Agent SpaceXAI350OpenRouter
50–5542Muse Ember Meta440Artificial Analysis
45–5029Mercury 2 Inception350Artificial Analysis

输出速度最快的模型

只列出已排名模型(有 BenchLeader Index 的模型)。速度排行榜还包括没有 Index 的模型,因此整体最快的模型可能不在这里。

首 token 延迟最低的模型

首 token 延迟最低的已排名模型;全部模型请看延迟排行榜。

#模型Index首 token 延迟测量方
1Llama 3.2 3B Instruct Meta35.60.21 秒OpenRouter
2Llama 3.2 1B Instruct Meta30.60.23 秒OpenRouter
3Command A+ Cohere45.90.23 秒OpenRouter
4Nemotron 3 Ultra 550B A55B NVIDIA55.40.25 秒OpenRouter
5Phi-4 Microsoft39.30.27 秒OpenRouter
6Qwen3 30B A3B 2507 Alibaba48.00.28 秒OpenRouter
7Nemotron 3.5 Lightning NVIDIA41.40.30 秒OpenRouter
8Mistral Small 3 Mistral AI39.20.30 秒OpenRouter
9GLM 4.7 Flash Zhipu AI51.00.31 秒OpenRouter
10Granite 4.2 8B IBM41.10.31 秒OpenRouter

这些数字是怎么得出的

输出速度是模型开始回答后每秒生成 token 数的中位数:Artificial Analysis 覆盖的模型采用其测得的中位数,其余采用 OpenRouter 实际流量的中位数(按 7 天平滑)。首 token 延迟在每张表中注明测量方;OpenRouter 的数据不包含思考阶段。中位数按已排名模型(有 BenchLeader Index 的模型)计算,取每个模型得分最高的配置。

速度取决于提供模型服务的提供商、负载和提示词,因此请把数字视为典型值而非保证值。完整的来源说明见方法说明。

引用这些数据

速度由 Artificial Analysis 和 OpenRouter 测量,此处注明来源展示;这些数据适用测量方的条款,不提供再使用。本页中 BenchLeader 自己的数据是 Index 分数和中位数。引用请使用下方的页面信息。

引用格式

BenchLeader,《大模型速度统计》,数据截至 2026年11月16日,https://www.benchleader.com/zh/stats/llm-speed。

常见问题

大模型每秒能输出多少 token?
BenchLeader 已排名模型的输出速度中位数约为 82 token/秒(由 Artificial Analysis 和 OpenRouter 测量)。追踪到的最快模型 Celeris-1 可达约 800 token/秒。
首 token 延迟一般是多少?
189 个已排名模型的中位数为 1.1 秒(由 OpenRouter 和 Artificial Analysis 测量)。OpenRouter 的首 token 数据不包含思考阶段。
最快的高质量大模型是哪个?
Meta 的 Muse Spark 1.2:在 BenchLeader Index 60 分及以上的已排名模型中,约 210 token/秒(Artificial Analysis)。
这些速度数据从哪里来?
输出速度:Artificial Analysis 覆盖的模型采用其测得的中位数,其余采用 OpenRouter 实际流量的中位数(按 7 天平滑);首 token 延迟主要来自 OpenRouter。每个数字都注明测量方,并适用其使用条款;BenchLeader 不会再授权这些数据。

相关: 速度排行榜、延迟排行榜、最快的大模型、大模型价格统计、全部统计