排行榜
基于模型测速结果的性能排行榜,对比不同 Provider 和端点的模型表现。
生成首个 Token 的平均时间,越低越好。
| 排名 | Provider | 模型 | 首字延迟 | 平均输出速度 | 次数 |
|---|---|---|---|---|---|
| 1 | qwen/qwen3-coder | 0.03 s 最佳: -最差: 1.49 | 0.81t/s | 90 | |
| 2 | echo-flash | 0.08 s 最佳: 0.07最差: 0.12 | 685.41t/s | 5 | |
| 3 |
| kimi-k2-instruct-0905 |
0.29 s 最佳: 0.26最差: 0.34 |
226.90t/s |
| 10 |
| 4 | zhipu/glm-4-9b | 0.34 s 最佳: -最差: 0.86 | 42.65t/s | 30 |
| 5 | llama3.1-8B | 0.39 s 最佳: 0.31最差: 1.06 | 37444.09t/s | 20 |
| 6 | llama3.1-8B | 0.39 s 最佳: 0.31最差: 1.06 | 37444.09t/s | 20 |
| 7 | meta/llama-3.1-8b-instruct | 0.42 s 最佳: 0.39最差: 0.45 | 200.27t/s | 15 |
| 8 | deepseek/deepseek-v3-0324 | 0.42 s 最佳: -最差: 3.28 | 0.00t/s | 210 |
| 9 | mimo-v2-flash | 0.45 s 最佳: 0.34最差: 0.75 | 129.75t/s | 5 |
| 10 | GLM-4-FlashX | 0.47 s 最佳: 0.43最差: 0.55 | 64.39t/s | 5 |
| 11 | gpt-oss-120b | 0.49 s 最佳: 0.40最差: 0.73 | 1796.31t/s | 5 |
| 12 | google/gemma-2-9b-it | 0.52 s 最佳: 0.48最差: 0.68 | 36.05t/s | 10 |
| 13 | google/gemma-3-1b-it | 0.52 s 最佳: 0.43最差: 0.99 | 213.18t/s | 10 |
| 14 | llama3.1-8B | 0.52 s 最佳: 0.34最差: 1.09 | 38588.02t/s | 25 |
| 15 | llama3.1-8B | 0.52 s 最佳: 0.34最差: 1.09 | 38588.02t/s | 25 |
| 16 | google/gemma-2-27b-it | 0.55 s 最佳: 0.47最差: 0.97 | 44.61t/s | 10 |
| 17 | gpt-oss-120b | 0.56 s 最佳: 0.40最差: 1.38 | 1677.82t/s | 10 |
| 18 | jimmy | 0.58 s 最佳: 0.42最差: 1.18 | 86213.91t/s | 10 |
| 19 | jimmy | 0.59 s 最佳: 0.46最差: 1.07 | 101506.95t/s | 5 |
| 20 | zhipu/glm-4v-flash | 0.59 s 最佳: 0.32最差: 2.76 | 57.28t/s | 25 |
| 21 | google/gemma-7b | 0.60 s 最佳: 0.47最差: 1.15 | 45.48t/s | 10 |
| 22 | google/gemma-3n-e4b-it | 0.60 s 最佳: 0.54最差: 0.78 | 19.36t/s | 5 |
| 23 | ibm/granite-guardian-3.0-8b | 0.61 s 最佳: 0.54最差: 1.15 | 93.66t/s | 10 |
| 24 | igenius/italia_10b_instruct_16k | 0.62 s 最佳: 0.48最差: 1.15 | 136.00t/s | 10 |
| 25 | kimi-k2-instruct-0905 | 0.63 s 最佳: 0.47最差: 0.94 | 74.54t/s | 5 |
| 26 | meta/llama-3.2-3b-instruct | 0.65 s 最佳: 0.44最差: 0.97 | 101.40t/s | 5 |
| 27 | auto-translator | 0.67 s 最佳: 0.44最差: 1.19 | 99.75t/s | 25 |
| 28 | qwen/qwen3.5-397b-a17b | 0.71 s 最佳: 0.35最差: 1.36 | 23.36t/s | 5 |
| 29 | gpt-oss-120b | 0.72 s 最佳: 0.45最差: 1.93 | 1671.10t/s | 20 |
| 30 | gpt-oss-120b | 0.72 s 最佳: 0.45最差: 1.93 | 1671.10t/s | 20 |
| 31 | echo | 0.75 s 最佳: 0.55最差: 1.49 | 6152.15t/s | 15 |
| 32 | zai-org/GLM-4.5-Air | 0.78 s 最佳: 0.54最差: 1.45 | 68.81t/s | 5 |
| 33 | zai-org/GLM-4.5-Air | 0.78 s 最佳: 0.54最差: 1.45 | 68.81t/s | 5 |
| 34 | deepseek-ai/DeepSeek-V3.2 | 0.80 s 最佳: 0.41最差: 1.40 | 21.76t/s | 10 |
| 35 | qwen/qwen3-8b | 0.80 s 最佳: 0.55最差: 1.50 | 28.62t/s | 20 |
| 36 | qwen/qwen2.5-7b | 0.81 s 最佳: 0.34最差: 2.43 | 103.58t/s | 40 |
| 37 | zhipu/glm-4-flash | 0.82 s 最佳: 0.58最差: 1.23 | 27.94t/s | 5 |
| 38 | google/gemma-3-1b-it | 0.87 s 最佳: 0.60最差: 1.68 | 176.46t/s | 5 |
| 39 | deepseek-chat | 0.88 s 最佳: 0.73最差: 1.11 | 34.84t/s | 15 |
| 40 | groq/compound-mini | 0.89 s 最佳: 0.53最差: 1.40 | 477.57t/s | 5 |
| 41 | 翻译/标题/OCR模型 | 0.91 s 最佳: 0.73最差: 1.21 | 260.68t/s | 5 |
| 42 | deepseek-chat | 0.91 s 最佳: 0.72最差: 1.24 | 40.56t/s | 10 |
| 43 | gpt-oss-120b | 0.91 s 最佳: 0.54最差: 2.00 | 1637.28t/s | 10 |
| 44 | gpt-oss-120b | 0.91 s 最佳: 0.54最差: 2.00 | 1637.28t/s | 10 |
| 45 | Qwen/Qwen2.5-7B-Instruct | 0.91 s 最佳: 0.61最差: 1.95 | 43.96t/s | 5 |
| 46 | gpt-oss-120b | 0.94 s 最佳: 0.59最差: 1.26 | 970.77t/s | 5 |
| 47 | DeepSeek-V3.2 | 0.94 s 最佳: 0.59最差: 2.00 | 0.00t/s | 5 |
| 48 | llama3.1-8B | 0.94 s 最佳: 0.73最差: 1.32 | 1421.44t/s | 10 |
| 49 | 翻译 | 0.97 s 最佳: 0.72最差: 1.26 | 60.49t/s | 5 |
| 50 | zhipu/glm-4-flash | 0.97 s 最佳: 0.42最差: 28.79 | 30.14t/s | 1680 |