BenchLeader

音声AIエージェントに最適なLLM:レイテンシ順ランキング

音声での会話で人が感じ取るのは、モデルが話し始めるまでの間です。スコアが2ポイント高くても、話す前に4秒考えるモデルは、どんな場合でも悪い選択です。そこでここではレイテンシを最優先し、次にツール利用を重視します。音声エージェントはほぼ必ず何かを実行しなければならないからです。品質は順位を決める要素ではなく、満たすべき基準として扱います。

2026年11月16日時点で、この用途に最も合うのはBeam 1.0 501B A23Bで、最初の回答までの時間は0.32 s、出力速度は193トークン/秒です。Nemotron 3 Ultra 550B A55B(0.25 s)、DeepSeek V4.1 Flash(0.60 s)がこれに続きます。ランク付けされた339モデルのうち、条件を満たすのは65モデルです。

単一の指標で見たランキング: 最速のLLM(2026年11月)

重みづけの内訳

  • 45%最初の回答までの時間通話相手が気づくのは最初の一言までの沈黙です。この数値は推論フェーズが終わるまで待つため、回答前に考えるモデルは、聞き手が感じるのとまったく同じように不利になります
  • 20%出力速度音声合成はストリームを届いた順に読み上げるため、スループットによって、音声が途切れずに続くか文の途中で詰まるかが決まります
  • 15%ツール利用ツールを呼び出せない音声エージェントは、予約も検索もキャンセルもできない、ただの声です
  • 10%指示追従キャラクターを保つこと、回答を短くすること、台本に従うことは、ここでは素の知能より重要です
  • 10%1ターン全体の時間始まりがどれだけ速くても、いつまでも終わらないターンはそれ自体が失敗です

上限: 最初の回答までの時間が2秒を超えるモデルは、すべて除外しています。1秒を超える間はすでに通話が切れたように聞こえ、2秒を超えると会話は破綻します。それほど遅いモデルは、音声にとって遅い選択肢ではなく、選択肢になりません。

下限(順位ではなく条件): 品質が45以上であることが条件です。品質がおおむね平均を下回ると、どれだけ速くても会話は役に立たなくなります。

ランク付けされた339モデルのうち、条件を満たすのは65モデルです。残りは、重みづけに必要な測定値のいずれかが欠けているか、上記の制限から外れています。たまたま持っている指標だけでスコアを付けるより、そのモデルを外すほうを選んでいます。

上記のベンチマークスコアは、モデルの各推論エフォート設定の結果をまとめ、それぞれが基づくベンチマークの数で重みづけしたものです。公開元が同じベンチマークをすべての設定で実行することはまれなので、1つの設定のカテゴリスコアは1件の結果だけから来ていることがよくあります。1件の結果では変動が大きすぎて、順位を決められません。レイテンシと価格は設定ごとに実際に異なるため、設定別のままにしています。

#モデル適合度最初の回答までの時間出力速度ツール利用指示追従100万トークンあたりの価格OpenRouterシェア
1Beam 1.0 501B A23BReflection820.32 s19341–$0.4750.02%
2Nemotron 3 Ultra 550B A55BNVIDIA800.25 s1063879$1.201.5%
3DeepSeek V4.1 FlashhighDeepSeek780.60 s12654–$0.2627.4%
4InklingThinking Machines750.34 s11538–$2.57<0.01%
5gpt-oss-120bOpenAI740.33 s1293456$0.2620.21%
6Gemini 2.5 Flash-Lite推論なしGoogle730.35 s2844147$0.1750.14%
7DeepSeek V4 FlashhighDeepSeek720.71 s8258–$0.2621.0%
8Gemini 2.5 Flash推論なしGoogle710.65 s1844755$0.8500.12%
9GLM 5.2Zhipu AI700.80 s845672$2.150.47%
10Gemma 4 26B A4BGoogle690.41 s764659$0.2620.25%
11Muse GlimmerMeta690.66 s8252–$0.525<0.01%
12Gemma 4 31BGoogle690.54 s644764$0.2500.23%
13Nova 2 LiteAmazon660.73 s13040–$0.935<0.01%
14Qwen3.6 35B A3BAlibaba650.52 s824252$0.8440.09%
15Kimi K3Moonshot AI630.85 s7655–$6.000.55%
16Qwen3.6 27BAlibaba630.55 s544757$1.35<0.01%
17Claude Opus 4.8highAnthropic630.77 s675462$10.000.07%
18GLM 4.7 FlashZhipu AI620.31 s424555$0.153<0.01%
19Qwen3.8 27BAlibaba620.74 s7351–$1.060.37%
20GPT-5.4 NanohighOpenAI610.89 s815458$0.4630.04%
21Claude Sonnet 4.6Anthropic610.59 s435649$6.000.09%
22Claude Haiku 4.5Anthropic610.69 s864550$2.000.09%
23Kimi K2.6Moonshot AI600.71 s594760$1.710.05%
24Gemini 3 FlashhighGoogle581.10 s895466$1.130.32%
25GPT-5.4 MinihighOpenAI580.98 s994659$1.690.04%
26DeepSeek V3.1DeepSeek580.48 s335542$0.8510.03%
27Mistral Medium 3.1Mistral AI580.59 s823843$0.800<0.01%
28Grok 4.3推論なしSpaceXAI561.04 s804772$1.560.02%
29Qwen3.5-35B-A3BAlibaba540.52 s274359$0.6880.02%
30Claude Opus 4.7Anthropic531.02 s486452$10.00<0.01%
31Qwen3 30B A3BAlibaba530.65 s743840$0.215<0.01%
32Qwen3 32BAlibaba530.35 s404237$1.230.01%
33Qwen3.5-9B推論なしAlibaba521.06 s1234053$0.1900.04%
34Qwen3.5-122B-A10BAlibaba521.12 s924763$1.10<0.01%
35DeepSeek V3 0324DeepSeek520.94 s1283744$0.4050.01%
36Qwen3.5 397B A17BAlibaba511.01 s455165$0.3870.01%
37Claude Sonnet 4.5highAnthropic500.91 s405652$6.000.03%
38Gemini 3.6 FlashGoogle481.33 s9655–$1.500.04%
39Muse Spark 1.1Meta471.80 s1935470$2.00<0.01%
40GPT-5.6 Terra推論なしOpenAI471.77 s955964$4.500.06%

このページの読み方

適合度はパーセンタイルを組み合わせた値で、100点満点のスコアではありません。各指標について、ここで評価できる他のすべてのモデルと比べた順位を出し、上記の重みで合成しています。この値が示すのは、ほかの選択肢と比べてそのモデルがこの用途にどれだけ合うかです。音声用途には非常に合うのに、品質のリーダーボードではかなり下位というモデルもありえます。Indexではなく用途で順位を付けるのはそのためです。

最後の列は適合度には含まれません。OpenRouterで1週間に処理されたトークンのうち各モデルが占めた割合で、測定で優れていたものではなく、人々が選んだものを示します。両者の答えはしばしば異なります。これは1つのマーケットプレイスの一部分として読んでください。プロバイダー自身のAPIに直接送られたトラフィックは含まれず、自前のハードウェアで動かすモデルはまったく表れません。そのため、シェアが小さくても、誰も使っていない証拠にはなりません。

この重みづけに異論がありますか?それはもっともなことで、だからこそ隠さずに示しています。自分で条件を設定したい場合は、モデルファインダーをお使いください。

よくある質問

音声エージェントに最適なLLMは?
2026年11月16日時点で、この用途に最も合うのはBeam 1.0 501B A23Bで、最初の回答までの時間は0.32 s、出力速度は193トークン/秒です。Nemotron 3 Ultra 550B A55B(0.25 s)、DeepSeek V4.1 Flash(0.60 s)がこれに続きます。ランク付けされた339モデルのうち、条件を満たすのは65モデルです。

引用表記:BenchLeader「音声エージェントに最適なモデル」2026年11月16日時点のデータ、https://www.benchleader.com/ja/use/voice