排行榜
基于模型测速与 Provider 健康检查数据的多维排行榜,对比不同 Provider、端点与稳定性表现。
生成首个 Token 的平均时间,越低越好。
| 排名 | Provider | 模型 | 首字延迟 | 平均输出速度 | 次数 |
|---|---|---|---|---|---|
| 1 | Qwen/Qwen2.5-Coder-7B-Instruct | 0.25 s 最佳: 0.21最差: 0.46 | 95.88t/s | 15 | |
| 2 | nvidia/llama-3.3-nemotron-super-49b-v1.5 | 0.28 s 最佳: 0.16最差: 0.56 | 79.68t/s | 5 |
| 3 | immersive_translate | 0.31 s 最佳: 0.23最差: 0.80 | 127.41t/s | 10 |
| 4 | glm-4.5-air | 0.31 s 最佳: 0.26最差: 0.44 | 37.80t/s | 5 |
| 5 | glm-z1-airx | 0.34 s 最佳: 0.28最差: 0.45 | 168.24t/s | 5 |
| 6 | tstars2.0 | 0.37 s 最佳: 0.34最差: 0.46 | 94.52t/s | 10 |
| 7 | Chery3-32B-0.2 | 0.42 s 最佳: 0.41最差: 0.43 | 48.22t/s | 5 |
| 8 | zai-org/GLM-4.5-Air | 0.46 s 最佳: 0.38最差: 0.55 | 86.82t/s | 5 |
| 9 | zhipu/glm-4v-flash | 0.47 s 最佳: 0.36最差: 0.61 | 52.35t/s | 5 |
| 10 | qwen/qwen2.5-7b | 0.55 s 最佳: 0.37最差: 1.20 | 100.66t/s | 10 |
| 11 | deepseek-v3.2-exp | 0.58 s 最佳: 0.54最差: 0.70 | 39.89t/s | 5 |
| 12 | qwen/qwen2.5-72b | 0.64 s 最佳: -最差: 2.20 | 32.42t/s | 15 |
| 13 | qwen/qwen3-coder | 0.69 s 最佳: -最差: 12.71 | 8.60t/s | 30 |
| 14 | models/gemini-2.5-flash-lite | 0.71 s 最佳: 0.59最差: 1.02 | 259.93t/s | 5 |
| 15 | Qwen/Qwen2.5-Coder-7B-Instruct | 0.72 s 最佳: 0.62最差: 1.03 | 26.91t/s | 5 |
| 16 | qwen/qwen2.5-vl-32b | 0.73 s 最佳: -最差: 2.86 | 16.53t/s | 15 |
| 17 | ernie-4.5-turbo-128k | 0.75 s 最佳: 0.36最差: 2.00 | 26.45t/s | 15 |
| 18 | tencent/Hunyuan-MT-7B | 0.77 s 最佳: 0.61最差: 1.24 | 60.47t/s | 5 |
| 19 | deepseek-chat | 0.78 s 最佳: 0.66最差: 1.02 | 25.48t/s | 5 |
| 20 | moonshotai/kimi-k2-instruct-0905 | 0.78 s 最佳: 0.64最差: 0.89 | 227.97t/s | 5 |
| 21 | qwen/qwen3-next-80b-a3b-instruct | 0.79 s 最佳: 0.70最差: 0.94 | 154.28t/s | 10 |
| 22 | google/gemini-2.0-flash-exp | 0.82 s 最佳: -最差: 5.27 | 41.22t/s | 25 |
| 23 | gpt-oss-120b | 0.84 s 最佳: 0.70最差: 1.01 | 590.03t/s | 5 |
| 24 | gemini-2.5-flash | 0.86 s 最佳: 0.81最差: 0.94 | 165.42t/s | 5 |
| 25 | gemma-3-27b-it | 0.87 s 最佳: 0.68最差: 1.25 | 0.00t/s | 10 |
| 26 | zhipu/glm-4-flash | 0.87 s 最佳: 0.42最差: 5.57 | 34.94t/s | 610 |
| 27 | hunyuan-lite | 0.88 s 最佳: 0.77最差: 0.99 | 123.45t/s | 5 |
| 28 | gemini-flash-lite-latest | 0.88 s 最佳: 0.72最差: 1.11 | 381.81t/s | 20 |
| 29 | DeepSeek-V3-0324 | 0.90 s 最佳: 0.41最差: 1.64 | 218.28t/s | 5 |
| 30 | Qwen/Qwen3-Next-80B-A3B-Instruct | 0.95 s 最佳: 0.64最差: 1.29 | 110.28t/s | 5 |
| 31 | Qwen/Qwen3-Next-80B-A3B-Instruct | 0.97 s 最佳: 0.64最差: 2.13 | 178.62t/s | 5 |
| 32 | DeepSeek-V3 | 0.98 s 最佳: 0.77最差: 1.69 | 30.38t/s | 5 |
| 33 | gemini-2.5-flash-lite-nothinking | 0.99 s 最佳: 0.82最差: 1.49 | 295.30t/s | 5 |
| 34 | gemini-2.5-flash-lite-nothinking | 0.99 s 最佳: 0.77最差: 1.29 | 341.00t/s | 5 |
| 35 | deepseek-chat | 0.99 s 最佳: 0.66最差: 1.28 | 23.98t/s | 30 |
| 36 | qwen-mt-turbo | 1.02 s 最佳: 0.55最差: 2.74 | 5403.35t/s | 5 |
| 37 | gemini-2.5-pro-nothinking | 1.03 s 最佳: 0.76最差: 1.48 | 0.00t/s | 5 |
| 38 | gemini-2.5-flash | 1.06 s 最佳: 0.70最差: 1.42 | 0.00t/s | 5 |
| 39 | arc-5-2512 | 1.10 s 最佳: 0.77最差: 1.74 | 59.18t/s | 5 |
| 40 | gpt-4.1-mini | 1.18 s 最佳: 0.92最差: 1.63 | 69.05t/s | 5 |
| 41 | openrouter/sherlock-dash-alpha | 1.21 s 最佳: 1.11最差: 1.54 | 103.39t/s | 10 |
| 42 | inclusionAI/Ling-1T | 1.27 s 最佳: 0.97最差: 1.91 | 18.55t/s | 5 |
| 43 | deepseek-v3-1-terminus | 1.30 s 最佳: 0.68最差: 1.75 | 34.82t/s | 5 |
| 44 | gpt-oss:120b | 1.35 s 最佳: 1.07最差: 1.74 | 141.34t/s | 5 |
| 45 | gemini-2.0-flash | 1.37 s 最佳: 0.59最差: 4.04 | 170.98t/s | 5 |
| 46 | qwen-3-235b-a22b-instruct-2507 | 1.38 s 最佳: 1.22最差: 1.74 | 377.69t/s | 5 |
| 47 | WiNGPT-Babel | 1.40 s 最佳: 0.66最差: 3.67 | 137.86t/s | 5 |
| 48 | arc-5-2512 | 1.44 s 最佳: 1.29最差: 1.61 | 83.06t/s | 5 |
| 49 | arc-5-2512 | 1.44 s 最佳: 1.29最差: 1.61 | 83.06t/s | 5 |
| 50 | qwen-3-235b-a22b-instruct-2507 | 1.47 s 最佳: 0.86最差: 2.47 | 449.95t/s | 5 |