SWE-bench Verified 排行榜 (any scaffold)
其他搜索名称:SWE-bench Verified 500 · SWE-bench
截至 2026年11月16日,SWE-bench Verified(又称 SWE-bench Verified 500) 的最高分为 79.2%,由 Claude Opus 4.5(Anthropic)取得,领先于 Gemini 3 Pro(77.4%)。共有 65 个模型配置公布了结果(SWE-bench,结果日期 2025年12月5日)。SWE-bench Verified 包含 500 个来自热门 Python 仓库的真实 GitHub issue,每个都经过人工标注员筛选,确保任务描述清楚、测试公平。模型阅读 issue 并修改仓库,只有隐藏测试全部通过,补丁才算被接受。SWE-bench Verified 仅作参考展示,不计入 BenchLeader Index。
要点(截至 2026年11月16日)
- Claude Opus 4.5 以 79.2% 保持 SWE-bench Verified (any scaffold) 最高分(SWE-bench,2025年12月5日)。
- Gemini 3 Pro 以 77.4% 位列 SWE-bench Verified (any scaffold) 第二(SWE-bench,2025年11月20日)。
- SWE-bench Verified (any scaffold):该模型在任意智能体脚手架下的 SWE-bench Verified 最佳官方结果。仅作参考(SWE-bench)。
- BenchLeader 上有 65 个模型配置公布了 SWE-bench Verified (any scaffold) 结果(BenchLeader,2026年11月16日)。
- SWE-bench Verified (any scaffold) 不计入 BenchLeader Index,仅作参考展示(BenchLeader 方法论)。
该模型在任意智能体脚手架下的 SWE-bench Verified 最佳官方结果。仅作参考。
- 发布方
- SWE-bench
- 类别
- 编程
- Index 权重
- 仅作参考
- 模型
- 65
- 数据截至
- 2026年11月16日
SWE-bench (Jimenez et al. 2024), swebench.com.
测试内容
SWE-bench Verified 包含 500 个来自热门 Python 仓库的真实 GitHub issue,每个都经过人工标注员筛选,确保任务描述清楚、测试公平。模型阅读 issue 并修改仓库,只有隐藏测试全部通过,补丁才算被接受。
评分方式
模型最佳官方提交在 500 个 issue 中解决的百分比,所用脚手架由提交者决定(往往是厂商自己的工具),而不是只用 bash 的 mini-SWE-agent 测试框架。
注意事项
同样是这 500 个经过验证的 GitHub issue,但取每个模型在提交者自选的任意智能体脚手架下的最佳官方结果。由于脚手架各不相同,这里比较的是“模型加测试框架”的整套系统,而不是模型本身,最好的成绩往往来自厂商自己的工具。仅供参考;计入 Index 的是只用 bash 的排行榜。另请参阅 SWE-bench Verified (bash only) 排行榜。
- 1Claude Opus 4.579.2%
- 2Gemini 3 Pro77.4%
- 3Claude Sonnet 476.8%
- 4Gemini 3 Flash (high)75.8%
- 5MiniMax M2.5 (high)75.8%
- 6Claude Opus 4.675.6%
- 7Claude Sonnet 4.574.8%
- 8GPT-574.4%
- 9Claude Opus 473.2%
- 10GPT-5.2-Codex72.8%
- 11GPT-5.2 (high)72.8%
- 12GLM-5 (high)72.8%
- 13Kimi K2 090571.2%
- 14Kimi K2.5 (high)70.8%
- 15DeepSeek V3.2 (high)70.0%
| # | |||||
|---|---|---|---|---|---|
| 1 | 79.2% | 57.1 | Sonar Foundation Agent | 2025-12-05 | |
| 2 | 77.4% | 60.0 | live-SWE-agent | 2025-11-20 | |
| 3 | 76.8% | 50.0 | EPAM AI/Run Developer Agent | 2025-08-04 | |
| 4 | 75.8% | 57.4 | mini-SWE-agent | 2026-02-17 | |
| 5 | 75.8% | – | mini-SWE-agent | 2026-02-17 | |
| 6 | 75.6% | 62.1 | mini-SWE-agent | 2026-02-17 | |
| 7 | 74.8% | 53.8 | Sonar Foundation Agent | 2025-11-03 | |
| 8 | 74.4% | 56.6 | Prometheus-v1.2.1 | 2025-10-15 | |
| 9 | 73.2% | 51.9 | Tools | 2025-05-22 | |
| 10 | 72.8% | 57.6 | mini-SWE-agent | 2026-02-19 | |
| 11 | 72.8% | 55.8 | mini-SWE-agent | 2026-02-17 | |
| 12 | 72.8% | – | mini-SWE-agent | 2026-02-17 | |
| 13 | 71.2% | 51.7 | Lingxi v1.5 | 2025-10-14 | |
| 14 | 70.8% | – | mini-SWE-agent | 2026-02-17 | |
| 15 | 70.0% | 54.2 | mini-SWE-agent | 2026-02-17 | |
| 16 | 69.6% | 48.9 | OpenHands | 2025-08-05 | |
| 17 | 68.2% | 50.2 | Undisclosed | 2025-09-30 | |
| 18 | 66.6% | – | mini-SWE-agent | 2026-02-17 | |
| 19 | 66.4% | 49.2 | Aime-coder v1 | 2025-05-14 | |
| 20 | 66.0% | 52.4 | mini-SWE-agent | 2025-11-20 | |
| 21 | 66.0% | – | mini-SWE-agent | 2025-11-24 | |
| 22 | 65.4% | 51.1 | OpenHands | 2025-07-16 | |
| 23 | 64.6% | 55.2 | PatchPilot-v1.1 | 2025-05-03 | |
| 24 | 64.6% | 52.5 | W&B Programmer O1 crosscheck5 | 2025-01-17 | |
| 25 | 64.2% | 51.6 | Undisclosed | 2025-07-28 | |
| 26 | 63.4% | 52.3 | mini-SWE-agent | 2025-12-10 | |
| 27 | 63.4% | 46.8 | AgentScope | 2025-02-06 | |
| 28 | 61.0% | 51.5 | mini-SWE-agent | 2025-11-24 | |
| 29 | 60.8% | – | OpenHands | 2025-02-03 | |
| 30 | 60.4% | – | EntroPO + R2E | 2025-09-01 | |
| 31 | 60.0% | – | mini-SWE-agent | 2025-12-01 | |
| 32 | 59.8% | 53.6 | mini-SWE-agent | 2025-08-07 | |
| 33 | 58.4% | 60.4 | mini-SWE-agent | 2025-07-26 | |
| 34 | 56.4% | 39.4 | mini-SWE-agent | 2025-12-09 | |
| 35 | 53.8% | 42.7 | mini-SWE-agent | 2025-12-09 | |
| 36 | 53.6% | 55.2 | mini-SWE-agent | 2025-07-26 | |
| 37 | 53.6% | – | FrogBoss-32B-2510 | 2025-11-10 | |
| 38 | 52.2% | 43.5 | Google Jules | 2024-12-12 | |
| 39 | 46.8% | – | OpenHands | 2025-05-20 | |
| 40 | Co-PatcheR开放 | 46.0% | – | PatchPilot | 2025-05-28 |
| 41 | 45.0% | – | FrogMini-14B-2510 | 2025-11-10 | |
| 42 | 42.4% | 50.2 | Agentless Lite | 2025-02-14 | |
| 43 | 42.4% | 45.1 | Amazon Nova Premier 1.0 | 2025-05-27 | |
| 44 | 42.0% | 46.9 | SWE-Exp | 2025-08-06 | |
| 45 | 41.2% | – | Agentless Mini | 2025-02-26 | |
| 46 | 40.6% | 38.7 | Tools | 2024-10-22 | |
| 47 | 39.6% | 48.7 | mini-SWE-agent | 2025-07-26 | |
| 48 | 38.8% | 42.8 | Agentless-1.5 | 2024-10-28 | |
| 49 | 38.0% | – | SWE-agent | 2025-07-25 | |
| 50 | 34.8% | 45.6 | mini-SWE-agent | 2025-08-07 | |
| 51 | 28.8% | – | Lingma Agent | 2024-10-02 | |
| 52 | 28.7% | 52.4 | mini-SWE-agent | 2025-07-26 | |
| 53 | 26.0% | 46.1 | mini-SWE-agent | 2025-08-07 | |
| 54 | 23.9% | 44.7 | mini-SWE-agent | 2025-07-20 | |
| 55 | MCTS Refine 7B开放 | 23.2% | – | MCTS-Refine-7B | 2025-06-27 |
| 56 | 22.4% | – | SWE-agent | 2024-04-02 | |
| 57 | 21.0% | 41.8 | mini-SWE-agent | 2025-07-20 | |
| 58 | 18.2% | – | Lingma Agent | 2024-10-02 | |
| 59 | 15.8% | 38.8 | SWE-agent | 2024-04-02 | |
| 60 | 9.1% | 38.2 | mini-SWE-agent | 2025-07-20 |
相关基准测试
SWE-bench Verified (any scaffold) 上的热门模型对比
引用格式:BenchLeader,《SWE-bench Verified (any scaffold) 排行榜》,数据截至 2026年11月16日,https://www.benchleader.com/zh/benchmarks/swe_bench_verified_any。
SWE-bench Verified (any scaffold):常见问题
- SWE-bench Verified (any scaffold) 衡量的是什么?
- SWE-bench Verified 包含 500 个来自热门 Python 仓库的真实 GitHub issue,每个都经过人工标注员筛选,确保任务描述清楚、测试公平。模型阅读 issue 并修改仓库,只有隐藏测试全部通过,补丁才算被接受。分数以完成任务的百分比表示,越高越好。
- SWE-bench Verified (any scaffold) 的最高分是多少?
- 截至 2026年11月16日,SWE-bench Verified (any scaffold) 的最高分为 79.2%,由 Claude Opus 4.5 取得(结果日期 2025年12月5日),领先于 Gemini 3 Pro(77.4%)。分数来自 SWE-bench,每天重新读取。
- 哪个 AI 模型在 SWE-bench Verified (any scaffold) 上领先?
- 截至 2026年11月16日,SWE-bench Verified (any scaffold) 排名第一的是 Claude Opus 4.5,分数为 79.2%(结果日期 2025年12月5日)。其后为 Gemini 3 Pro(77.4%)。
- 有多少模型有 SWE-bench Verified (any scaffold) 结果?
- BenchLeader 上有 65 个模型配置有 SWE-bench Verified (any scaffold) 结果,全部取自 SWE-bench。
- SWE-bench Verified (any scaffold) 由谁运行,多久更新一次?
- SWE-bench Verified (any scaffold) 由 SWE-bench 发布。BenchLeader 每天重新读取一次公布的结果,并记录每个结果的发布日期。
- SWE-bench Verified (any scaffold) 是否计入 BenchLeader Index?
- 不计入。SWE-bench Verified (any scaffold) 仅作参考展示,不计入综合分数。