最适合语音 AI 智能体的大模型:按延迟排名
在语音对话中,人最能感受到的是模型开口前的停顿。一个分数高两分、却要先思考四秒的模型,无论如何都是更差的选择。因此这里以延迟为先,其次是工具调用,因为语音智能体几乎总要执行某些操作;质量则是需要达到的门槛,而不是排名依据。
截至 2026年11月16日,最适合这一用途的是 Beam 1.0 501B A23B,首次回答时间为 0.32 s,输出速度为 193 token/秒,领先于 Nemotron 3 Ultra 550B A55B(0.25 s)和 DeepSeek V4.1 Flash(0.60 s)。在 339 个已排名模型中,有 65 个符合条件。
按单一指标排名: 最快的大模型(2026年11月)
权重说明
- 45%首次回答时间来电者注意到的是第一个字之前的沉默;该数值会一直等到推理阶段结束,因此先思考再回答的模型受到的扣分,正如听者的感受
- 20%输出速度语音合成边接收边朗读,因此吞吐量决定声音能否跟上,还是会在句子中间卡顿
- 15%工具调用无法调用工具的语音智能体,只是一个无法预订、查询或取消任何东西的声音
- 10%指令遵循保持角色、回答简短、遵循脚本,在这里比纯粹的智能更重要
- 10%整轮耗时无论开头多快,一个迟迟不结束的回合本身就是一种失败
硬性上限: 首次回答时间超过 2 秒的模型一律排除:停顿超过约一秒就已经像掉线,超过两秒对话就已中断——这么慢的模型对语音来说不是慢一点的选项,而是根本不能选。
门槛(不参与排名): 质量须达到 45:质量低于大约平均水平时,无论多快,对话都不再有用。
在 339 个已排名模型中,有 65 个符合条件:其余模型要么缺少权重所依赖的某项测量,要么超出上述限制。与其只用模型碰巧具备的指标给它打分,我们宁可把它排除在外。
上面的基准测试分数是把模型各推理强度档位的结果合并计算,并按每个档位所依据的基准测试数量加权。发布方很少在每个档位上都运行同一项基准测试,所以单个档位的类别分数往往只来自一个结果——而单个结果波动太大,不足以决定排名。延迟和价格则按档位分别计算,因为它们确实不同。
| # | 模型 | 匹配度 | 首次回答时间 | 输出速度 | 工具调用 | 指令遵循 | 每百万 token 价格 | OpenRouter 份额 |
|---|---|---|---|---|---|---|---|---|
| 1 | 82 | 0.32 s | 193 | 41 | – | $0.475 | 0.02% | |
| 2 | 80 | 0.25 s | 106 | 38 | 79 | $1.20 | 1.5% | |
| 3 | 78 | 0.60 s | 126 | 54 | – | $0.262 | 7.4% | |
| 4 | 75 | 0.34 s | 115 | 38 | – | $2.57 | <0.01% | |
| 5 | 74 | 0.33 s | 129 | 34 | 56 | $0.262 | 0.21% | |
| 6 | 73 | 0.35 s | 284 | 41 | 47 | $0.175 | 0.14% | |
| 7 | 72 | 0.71 s | 82 | 58 | – | $0.262 | 1.0% | |
| 8 | 71 | 0.65 s | 184 | 47 | 55 | $0.850 | 0.12% | |
| 9 | 70 | 0.80 s | 84 | 56 | 72 | $2.15 | 0.47% | |
| 10 | 69 | 0.41 s | 76 | 46 | 59 | $0.262 | 0.25% | |
| 11 | 69 | 0.66 s | 82 | 52 | – | $0.525 | <0.01% | |
| 12 | 69 | 0.54 s | 64 | 47 | 64 | $0.250 | 0.23% | |
| 13 | 66 | 0.73 s | 130 | 40 | – | $0.935 | <0.01% | |
| 14 | 65 | 0.52 s | 82 | 42 | 52 | $0.844 | 0.09% | |
| 15 | 63 | 0.85 s | 76 | 55 | – | $6.00 | 0.55% | |
| 16 | 63 | 0.55 s | 54 | 47 | 57 | $1.35 | <0.01% | |
| 17 | 63 | 0.77 s | 67 | 54 | 62 | $10.00 | 0.07% | |
| 18 | 62 | 0.31 s | 42 | 45 | 55 | $0.153 | <0.01% | |
| 19 | 62 | 0.74 s | 73 | 51 | – | $1.06 | 0.37% | |
| 20 | 61 | 0.89 s | 81 | 54 | 58 | $0.463 | 0.04% | |
| 21 | 61 | 0.59 s | 43 | 56 | 49 | $6.00 | 0.09% | |
| 22 | 61 | 0.69 s | 86 | 45 | 50 | $2.00 | 0.09% | |
| 23 | 60 | 0.71 s | 59 | 47 | 60 | $1.71 | 0.05% | |
| 24 | 58 | 1.10 s | 89 | 54 | 66 | $1.13 | 0.32% | |
| 25 | 58 | 0.98 s | 99 | 46 | 59 | $1.69 | 0.04% | |
| 26 | 58 | 0.48 s | 33 | 55 | 42 | $0.851 | 0.03% | |
| 27 | 58 | 0.59 s | 82 | 38 | 43 | $0.800 | <0.01% | |
| 28 | 56 | 1.04 s | 80 | 47 | 72 | $1.56 | 0.02% | |
| 29 | 54 | 0.52 s | 27 | 43 | 59 | $0.688 | 0.02% | |
| 30 | 53 | 1.02 s | 48 | 64 | 52 | $10.00 | <0.01% | |
| 31 | 53 | 0.65 s | 74 | 38 | 40 | $0.215 | <0.01% | |
| 32 | 53 | 0.35 s | 40 | 42 | 37 | $1.23 | 0.01% | |
| 33 | 52 | 1.06 s | 123 | 40 | 53 | $0.190 | 0.04% | |
| 34 | 52 | 1.12 s | 92 | 47 | 63 | $1.10 | <0.01% | |
| 35 | 52 | 0.94 s | 128 | 37 | 44 | $0.405 | 0.01% | |
| 36 | 51 | 1.01 s | 45 | 51 | 65 | $0.387 | 0.01% | |
| 37 | 50 | 0.91 s | 40 | 56 | 52 | $6.00 | 0.03% | |
| 38 | 48 | 1.33 s | 96 | 55 | – | $1.50 | 0.04% | |
| 39 | 47 | 1.80 s | 193 | 54 | 70 | $2.00 | <0.01% | |
| 40 | 47 | 1.77 s | 95 | 59 | 64 | $4.50 | 0.06% |
如何解读
匹配度是百分位的加权组合,而不是百分制分数:每个维度都与这里所有可评估的其他模型比较排名,再按上面的权重合成。它表示与其他选择相比,一个模型有多适合这项工作——一个模型可能非常适合语音场景,却在质量排行榜上远远靠后,这正是按用途而不是按 Index 排名的意义所在。
最后一列不计入匹配度。它是 OpenRouter 上一周 token 用量中各模型所占的份额,反映的是人们的选择,而不是测量结果——两者往往不同。请把它看作一个市场的切片:直接发往厂商自有 API 的流量不会出现,在自己硬件上运行的模型更是完全不会出现,所以份额小并不能证明没人用。
不同意这样的权重?这很合理,所以我们把它公开列出,而不是藏起来。如果想自己设定条件,请使用模型筛选器。
常见问题
- 语音智能体最好用哪个大模型?
- 截至 2026年11月16日,最适合这一用途的是 Beam 1.0 501B A23B,首次回答时间为 0.32 s,输出速度为 193 token/秒,领先于 Nemotron 3 Ultra 550B A55B(0.25 s)和 DeepSeek V4.1 Flash(0.60 s)。在 339 个已排名模型中,有 65 个符合条件。
引用格式:BenchLeader,《最适合语音智能体的模型》,数据截至 2026年11月16日,https://www.benchleader.com/zh/use/voice。