
ModelScope(魔搭社区)提供开源 AI 模型推理 API 访问,兼容 OpenAI API 格式。
ModelScope 目前提供 18 个大模型 API。
速度基准测试平均吞吐 56 tok/s。
ModelScope 是一个 API 聚合平台,提供来自多个供应商的模型。

api-inference.modelscope.cnms-ens-1f4a9445-d0e7.api-inference.modelscope.cnms-ens-327b7543-e27c.api-inference.modelscope.cnms-ens-51815792-b22c.api-inference.modelscope.cn