A

GPT Load (AllAI)

GPT Load 是一个 OpenAI 兼容的 API 负载均衡服务，将请求分发到多个 AI 模型提供商。

分类

Qwen 3 Qwen 3 Instruct Gemini 2.5 Flash Lite DeepSeek V3.1 DeepSeek V3 GPT-OSS Gemini 2.5 Flash Qwen3 Next Instruct GPT-4.1 Mini Kimi K2 Instruct

GPT Load (AllAI) 目前提供 17 个大模型 API。

速度基准测试平均吞吐 269 tok/s。

GPT Load (AllAI) 是一个 API 聚合平台，提供来自多个供应商的模型。

GPT Load (AllAI) interface preview

平均速度269.02 tok/s

延迟3.04 s

总测试数153

模型数17

更新于4/16/2026

创建时间12/7/2025

API 地址

历史推断 / 未验证
https://allaiload.dpdns.org

支持的模型

模型	速度	延迟	测试数
qwen-3-32b	2105.17 tok/s	1.93s	5
qwen-3-235b-a22b-instruct-2507	558.49 tok/s	1.49s	20
models/gemini-2.5-flash-lite	259.93 tok/s	0.71s	5
DeepSeek-V3.1	257.63 tok/s	0.55s	5
DeepSeek-V3-0324	218.28 tok/s	0.90s	5
openai/gpt-oss-120b	205.99 tok/s	8.90s	5
models/gemini-2.5-flash	198.97 tok/s	7.95s	15
models/gemini-2.5-flash-preview-09-2025	175.68 tok/s	0.57s	5
Qwen/Qwen3-Next-80B-A3B-Instruct	173.09 tok/s	1.54s	5
qwen/qwen3-next-80b-a3b-instruct	154.28 tok/s	0.79s	10
gpt-oss:120b	141.34 tok/s	1.35s	5
translate-model	138.91 tok/s	3.10s	45
x-ai/grok-4.1-fast:free	87.31 tok/s	6.31s	5
deepseek-v3.1:671b	72.01 tok/s	2.63s	5
WiNGPT-Babel	70.20 tok/s	1.85s	3
gpt-4.1-mini	66.95 tok/s	1.58s	5
moonshotai/kimi-k2-instruct-0905	36.98 tok/s	5.74s	5