BenchLeader

最适合语音 AI 智能体的大模型:按延迟排名

在语音对话中,人最能感受到的是模型开口前的停顿。一个分数高两分、却要先思考四秒的模型,无论如何都是更差的选择。因此这里以延迟为先,其次是工具调用,因为语音智能体几乎总要执行某些操作;质量则是需要达到的门槛,而不是排名依据。

截至 2026年11月16日,最适合这一用途的是 Beam 1.0 501B A23B,首次回答时间为 0.32 s,输出速度为 193 token/秒,领先于 Nemotron 3 Ultra 550B A55B(0.25 s)和 DeepSeek V4.1 Flash(0.60 s)。在 339 个已排名模型中,有 65 个符合条件。

按单一指标排名: 最快的大模型(2026年11月)

权重说明

  • 45%首次回答时间来电者注意到的是第一个字之前的沉默;该数值会一直等到推理阶段结束,因此先思考再回答的模型受到的扣分,正如听者的感受
  • 20%输出速度语音合成边接收边朗读,因此吞吐量决定声音能否跟上,还是会在句子中间卡顿
  • 15%工具调用无法调用工具的语音智能体,只是一个无法预订、查询或取消任何东西的声音
  • 10%指令遵循保持角色、回答简短、遵循脚本,在这里比纯粹的智能更重要
  • 10%整轮耗时无论开头多快,一个迟迟不结束的回合本身就是一种失败

硬性上限: 首次回答时间超过 2 秒的模型一律排除:停顿超过约一秒就已经像掉线,超过两秒对话就已中断——这么慢的模型对语音来说不是慢一点的选项,而是根本不能选。

门槛(不参与排名): 质量须达到 45:质量低于大约平均水平时,无论多快,对话都不再有用。

在 339 个已排名模型中,有 65 个符合条件:其余模型要么缺少权重所依赖的某项测量,要么超出上述限制。与其只用模型碰巧具备的指标给它打分,我们宁可把它排除在外。

上面的基准测试分数是把模型各推理强度档位的结果合并计算,并按每个档位所依据的基准测试数量加权。发布方很少在每个档位上都运行同一项基准测试,所以单个档位的类别分数往往只来自一个结果——而单个结果波动太大,不足以决定排名。延迟和价格则按档位分别计算,因为它们确实不同。

#模型匹配度首次回答时间输出速度工具调用指令遵循每百万 token 价格OpenRouter 份额
1Beam 1.0 501B A23BReflection820.32 s19341–$0.4750.02%
2Nemotron 3 Ultra 550B A55BNVIDIA800.25 s1063879$1.201.5%
3DeepSeek V4.1 FlashhighDeepSeek780.60 s12654–$0.2627.4%
4InklingThinking Machines750.34 s11538–$2.57<0.01%
5gpt-oss-120bOpenAI740.33 s1293456$0.2620.21%
6Gemini 2.5 Flash-Lite无推理Google730.35 s2844147$0.1750.14%
7DeepSeek V4 FlashhighDeepSeek720.71 s8258–$0.2621.0%
8Gemini 2.5 Flash无推理Google710.65 s1844755$0.8500.12%
9GLM 5.2Zhipu AI700.80 s845672$2.150.47%
10Gemma 4 26B A4BGoogle690.41 s764659$0.2620.25%
11Muse GlimmerMeta690.66 s8252–$0.525<0.01%
12Gemma 4 31BGoogle690.54 s644764$0.2500.23%
13Nova 2 LiteAmazon660.73 s13040–$0.935<0.01%
14Qwen3.6 35B A3BAlibaba650.52 s824252$0.8440.09%
15Kimi K3Moonshot AI630.85 s7655–$6.000.55%
16Qwen3.6 27BAlibaba630.55 s544757$1.35<0.01%
17Claude Opus 4.8highAnthropic630.77 s675462$10.000.07%
18GLM 4.7 FlashZhipu AI620.31 s424555$0.153<0.01%
19Qwen3.8 27BAlibaba620.74 s7351–$1.060.37%
20GPT-5.4 NanohighOpenAI610.89 s815458$0.4630.04%
21Claude Sonnet 4.6Anthropic610.59 s435649$6.000.09%
22Claude Haiku 4.5Anthropic610.69 s864550$2.000.09%
23Kimi K2.6Moonshot AI600.71 s594760$1.710.05%
24Gemini 3 FlashhighGoogle581.10 s895466$1.130.32%
25GPT-5.4 MinihighOpenAI580.98 s994659$1.690.04%
26DeepSeek V3.1DeepSeek580.48 s335542$0.8510.03%
27Mistral Medium 3.1Mistral AI580.59 s823843$0.800<0.01%
28Grok 4.3无推理SpaceXAI561.04 s804772$1.560.02%
29Qwen3.5-35B-A3BAlibaba540.52 s274359$0.6880.02%
30Claude Opus 4.7Anthropic531.02 s486452$10.00<0.01%
31Qwen3 30B A3BAlibaba530.65 s743840$0.215<0.01%
32Qwen3 32BAlibaba530.35 s404237$1.230.01%
33Qwen3.5-9B无推理Alibaba521.06 s1234053$0.1900.04%
34Qwen3.5-122B-A10BAlibaba521.12 s924763$1.10<0.01%
35DeepSeek V3 0324DeepSeek520.94 s1283744$0.4050.01%
36Qwen3.5 397B A17BAlibaba511.01 s455165$0.3870.01%
37Claude Sonnet 4.5highAnthropic500.91 s405652$6.000.03%
38Gemini 3.6 FlashGoogle481.33 s9655–$1.500.04%
39Muse Spark 1.1Meta471.80 s1935470$2.00<0.01%
40GPT-5.6 Terra无推理OpenAI471.77 s955964$4.500.06%

如何解读

匹配度是百分位的加权组合,而不是百分制分数:每个维度都与这里所有可评估的其他模型比较排名,再按上面的权重合成。它表示与其他选择相比,一个模型有多适合这项工作——一个模型可能非常适合语音场景,却在质量排行榜上远远靠后,这正是按用途而不是按 Index 排名的意义所在。

最后一列不计入匹配度。它是 OpenRouter 上一周 token 用量中各模型所占的份额,反映的是人们的选择,而不是测量结果——两者往往不同。请把它看作一个市场的切片:直接发往厂商自有 API 的流量不会出现,在自己硬件上运行的模型更是完全不会出现,所以份额小并不能证明没人用。

不同意这样的权重?这很合理,所以我们把它公开列出,而不是藏起来。如果想自己设定条件,请使用模型筛选器。

常见问题

语音智能体最好用哪个大模型?
截至 2026年11月16日,最适合这一用途的是 Beam 1.0 501B A23B,首次回答时间为 0.32 s,输出速度为 193 token/秒,领先于 Nemotron 3 Ultra 550B A55B(0.25 s)和 DeepSeek V4.1 Flash(0.60 s)。在 339 个已排名模型中,有 65 个符合条件。

引用格式:BenchLeader,《最适合语音智能体的模型》,数据截至 2026年11月16日,https://www.benchleader.com/zh/use/voice。