BenchLeader

レイテンシ:回答開始までの時間

推論フェーズを含め、回答が始まるまでの秒数の中央値です(Artificial Analysis)。それがない場合は、最初のトークンがストリーミングされるまでの時間を使います。

2026年11月16日時点で、BenchLeader は「レイテンシ」ボードでTiny Aya Globalを1位としています(0.20 s)。続いてLlama 3.2 3B Instruct(0.21 s)、Llama 3.2 1B Instruct(0.23 s)です。

704モデル · 2026年11月16日時点のデータ

上位15(秒)
  1. 1Tiny Aya Global0.20 s
  2. 2Llama 3.2 3B Instruct0.21 s
  3. 3Llama 3.2 1B Instruct0.23 s
  4. 4Nemotron 3 Ultra 550B A55B0.25 s
  5. 5Hermes 4 405B (none)0.31 s
  6. 6GLM 4.7 Flash0.31 s
  7. 7Beam 1.0 501B A23B0.32 s
  8. 8gpt-oss-120b0.33 s
  9. 9Codestral 25080.34 s
  10. 10Inkling0.34 s
  11. 11gpt-oss-20b0.35 s
  12. 12Gemini 2.5 Flash-Lite (none)0.35 s
  13. 13Qwen3 32B0.35 s
  14. 14Nemotron 3 Nano 30B A3B0.36 s
  15. 15Palmyra X50.39 s
261件中261件
#
1Kimi K3.1 Pro157.41 s30 tok/s
2Hy4110.01 s94 tok/s
3Qwen3.8 2.4T A95B107.31 s41 tok/s
4GLM 5.3 Flash86.98 s54 tok/s
5Solar Mini 474.08 s116 tok/s
6DeepSeek R1 052869.03 s32 tok/s
7Qwen3.8-Flash-Next65.53 s80 tok/s
8Granite 4.2 8B64.77 s54 tok/s
9MiniMax M360.01 s118 tok/s
10Qwen3.7 Plus49.81 s57 tok/s
11Inkling 2 Small49.03 s100 tok/s
12LongCat 2.046.64 s61 tok/s
13Qwen3.6 Plus44.35 s52 tok/s
14Hy343.55 s77 tok/s
15MiniMax M3.1 Flash43.29 s151 tok/s
16Deepseek v4 Flash Visionmax43.09 s163 tok/s
17MiMo-V2.6-Pro42.28 s54 tok/s
18Ling 3.1 Flash42.27 s94 tok/s
19Seed-OSS-36B-Instruct41.15 s35 tok/s
20MiMo-V2.6-Flash31.81 s44 tok/s
21MiniMax M2.531.62 s41 tok/s
22Kimi K2.7 Code29.62 s55 tok/s
23Solar Pro 428.18 s76 tok/s
24Mistral Large 4medium27.26 s80 tok/s
25Step 3.5 Flash25.30 s133 tok/s
26Kimi K2 Thinkingthinking25.13 s130 tok/s
27Step 3.5 Flash 020224.06 s131 tok/s
28Mistral Medium 3.523.57 s146 tok/s
29Step 5 Preview23.53 s124 tok/s
30Gemini 2.5 Pro21.71 s111 tok/s
31K2 Horizon 375B A23B20.04 s198 tok/s
32MiniMax M2.719.09 s42 tok/s
33Command A+18.93 s175 tok/s
34Grok 417.54 s69 tok/s
35o4-minihigh16.60 s117 tok/s
36Inkling Small15.61 s116 tok/s
37Gemini 3.1 Prohigh15.16 s111 tok/s
38Qwen3.7max14.75 s171 tok/s
39GLM-4.5-Air14.61 s65 tok/s
40Ling 3.0 Flash14.46 s119 tok/s
41Step 3.7 Flash14.26 s148 tok/s
42DeepSeek R114.12 s107 tok/s
43Nemotron 3.5 Super VL13.70 s271 tok/s
44Solar Pro 313.43 s124 tok/s
45Ling 3.0 Tiny12.54 s176 tok/s
46Grok 4.20 Multi-Agent11.81 s349 tok/s
47Grok Build 0.111.65 s174 tok/s
48Sarvam 105Bhigh11.58 s90 tok/s
49Nemotron 3.5 Lightning10.03 s266 tok/s
50GPT-5.2 Proxhigh9.79 s10 tok/s
51GPT-5-Codexhigh9.48 s120 tok/s
52DeepSeek V4 Flash 0420max9.08 s116 tok/s
53Llama 3.1 70B8.64 s18 tok/s
54MiniMax-M28.61 s100 tok/s
55Ring-2.6-1T8.40 s108 tok/s
56NEWAgnes 2.5 Pro Theta8.08 s190 tok/s
57GPT-5.4 Pro7.93 s7 tok/s
58Qwen3 Coder 30B A3B Instruct7.68 s185 tok/s
59Command A7.13 s53 tok/s
60Gemini 4 Carbon7.04 s43 tok/s

引用表記:BenchLeader「レイテンシ:回答開始までの時間」2026年11月16日時点のデータ、https://www.benchleader.com/ja/leaderboards/latency