Skip to Content
Qwen Code 评估

Qwen Code 评估

本次评估在 SWE-bench Verified 上对比了七个 Qwen Code 版本,使用相同的 Qwen 3.7 Max 模型和配置。平均分范围为 76.40% 至 77.80%,差距为 1.40 个百分点。

各 Qwen Code 版本得分

各 Qwen Code 版本的 SWE-bench Verified 平均分,范围从 76.40% 到 77.80%。

版本平均分通过率pass @3pass^3
0.0.1477.80%84.6%84.6%69.2%
0.1.076.73%84.6%84.6%68.0%
0.5.076.60%83.0%83.0%68.4%
0.10.076.47%84.4%84.4%67.4%
0.15.077.67%84.6%84.6%68.6%
0.19.076.40%85.0%85.0%65.8%
0.22.077.33%84.4%84.4%68.0%

折线图按发布顺序连接各版本,并使用明确标注的 70%–80% 刻度。表格保留了所有报告的指标;在这些结果中,Pass Rate 和 pass @3 的值相同。

评估配置

配置项值
数据集princeton-nlp/SWE-bench_Verified,500 个用例
运行每版本 3 次试验,每版本 1,500 个任务;7 个 Qwen Code 版本
模型Qwen 3.7 Max
采样temperature=1,top_p=0.95
思考 / 推理interleaved_thinking=true,thinking_type=adaptive,reasoning_effort=high
上下文 / 输出限制context_1m=true,model_context_length=1,000,000,max_tokens=64,000,model_max_tokens=65,535
Harness 限制max_iterations=500,runtime_timeout_sec=7,200,agent_timeout_multiplier=3.0

返回 README

Last updated on