延迟:首次回答时间
回答开始前的秒数中位数,包含推理阶段(Artificial Analysis);若无此数据,则采用首个 token 流式输出的时间。
截至 2026年11月16日,BenchLeader 在“延迟”榜上将 Tiny Aya Global 排在第一(0.20 s)。其后为 Llama 3.2 3B Instruct(0.21 s)和 Llama 3.2 1B Instruct(0.23 s)。
704 个模型 · 数据截至 2026年11月16日
- 1Tiny Aya Global0.20 s
- 2Llama 3.2 3B Instruct0.21 s
- 3Llama 3.2 1B Instruct0.23 s
- 4Nemotron 3 Ultra 550B A55B0.25 s
- 5Hermes 4 405B (none)0.31 s
- 6GLM 4.7 Flash0.31 s
- 7Beam 1.0 501B A23B0.32 s
- 8gpt-oss-120b0.33 s
- 9Codestral 25080.34 s
- 10Inkling0.34 s
- 11gpt-oss-20b0.35 s
- 12Gemini 2.5 Flash-Lite (none)0.35 s
- 13Qwen3 32B0.35 s
- 14Nemotron 3 Nano 30B A3B0.36 s
- 15Palmyra X50.39 s
261 / 261
| # | |||
|---|---|---|---|
| 1 | 157.41 s | 30 tok/s | |
| 2 | 110.01 s | 94 tok/s | |
| 3 | 107.31 s | 41 tok/s | |
| 4 | 86.98 s | 54 tok/s | |
| 5 | 74.08 s | 116 tok/s | |
| 6 | 69.03 s | 32 tok/s | |
| 7 | 65.53 s | 80 tok/s | |
| 8 | 64.77 s | 54 tok/s | |
| 9 | 60.01 s | 118 tok/s | |
| 10 | 49.81 s | 57 tok/s | |
| 11 | 49.03 s | 100 tok/s | |
| 12 | 46.64 s | 61 tok/s | |
| 13 | 44.35 s | 52 tok/s | |
| 14 | 43.55 s | 77 tok/s | |
| 15 | 43.29 s | 151 tok/s | |
| 16 | 43.09 s | 163 tok/s | |
| 17 | 42.28 s | 54 tok/s | |
| 18 | 42.27 s | 94 tok/s | |
| 19 | 41.15 s | 35 tok/s | |
| 20 | 31.81 s | 44 tok/s | |
| 21 | 31.62 s | 41 tok/s | |
| 22 | 29.62 s | 55 tok/s | |
| 23 | 28.18 s | 76 tok/s | |
| 24 | 27.26 s | 80 tok/s | |
| 25 | 25.30 s | 133 tok/s | |
| 26 | 25.13 s | 130 tok/s | |
| 27 | 24.06 s | 131 tok/s | |
| 28 | 23.57 s | 146 tok/s | |
| 29 | 23.53 s | 124 tok/s | |
| 30 | 21.71 s | 111 tok/s | |
| 31 | 20.04 s | 198 tok/s | |
| 32 | 19.09 s | 42 tok/s | |
| 33 | 18.93 s | 175 tok/s | |
| 34 | 17.54 s | 69 tok/s | |
| 35 | 16.60 s | 117 tok/s | |
| 36 | 15.61 s | 116 tok/s | |
| 37 | 15.16 s | 111 tok/s | |
| 38 | 14.75 s | 171 tok/s | |
| 39 | 14.61 s | 65 tok/s | |
| 40 | 14.46 s | 119 tok/s | |
| 41 | 14.26 s | 148 tok/s | |
| 42 | 14.12 s | 107 tok/s | |
| 43 | 13.70 s | 271 tok/s | |
| 44 | 13.43 s | 124 tok/s | |
| 45 | 12.54 s | 176 tok/s | |
| 46 | 11.81 s | 349 tok/s | |
| 47 | 11.65 s | 174 tok/s | |
| 48 | 11.58 s | 90 tok/s | |
| 49 | 10.03 s | 266 tok/s | |
| 50 | 9.79 s | 10 tok/s | |
| 51 | 9.48 s | 120 tok/s | |
| 52 | 9.08 s | 116 tok/s | |
| 53 | 8.64 s | 18 tok/s | |
| 54 | 8.61 s | 100 tok/s | |
| 55 | 8.40 s | 108 tok/s | |
| 56 | 新 | 8.08 s | 190 tok/s |
| 57 | 7.93 s | 7 tok/s | |
| 58 | 7.68 s | 185 tok/s | |
| 59 | 7.13 s | 53 tok/s | |
| 60 | 7.04 s | 43 tok/s |
引用格式:BenchLeader,《延迟:首次回答时间》,数据截至 2026年11月16日,https://www.benchleader.com/zh/leaderboards/latency。