API 提供商性能测试结果
模型名称 | 测试次数 | 平均输出速度 | 平均首字延迟 |
---|---|---|---|
vllm.Qwen/Qwen3-Coder-30B-A3B-Instruct | 5 | 145.28 t/s | 1.06s |
总测试次数
142.30 - 147.16 t/s
0.71 - 1.73s
最近测试时间
vllm.Qwen/Qwen3-Coder-30B-A3B-Instruct
测试次数: 5
145.28 t/s
平均速度
测试时间 | 模型 | 平均输出速度 | 平均首字延迟 | 总令牌数 |
---|---|---|---|---|
8/13/2025, 11:04:43 AM | vllm.Qwen/Qwen3-Coder-30B-A3B-Instruct | 145.28 t/s | 1.06s | 1565 |