GPT Load 是一个 OpenAI 兼容的 API 负载均衡服务,将请求分发到多个 AI 模型提供商。
分类
GPT Load (Shiho) 目前提供 10 个大模型 API。
速度基准测试平均吞吐 961 tok/s。
GPT Load (Shiho) 是一个 API 聚合平台,提供来自多个供应商的模型。
gpt-load.shiho.top