Chutes 提供大语言模型推理 API 服务,通过 OpenAI 兼容接口访问多种开源 AI 模型。
Chutes 目前提供 3 个大模型 API。
速度基准测试平均吞吐 33 tok/s。
llm.chutes.ai
嵌入这张健康检查图片,展示该提供商最新的可用性快照。
通过 URL 参数直接启动测速,无需手动填写表单,自动填充并开始 5 轮对话测速
baseUrl
apiKey
modelId
https://lmspeed.net/zh?baseUrl=https%3A%2F%2Fapi.groq.com%2Fopenai%2Fv1&apiKey=gsk_xxx&modelId=llama-3.1-70b-versatile
嵌入这张支持模型图片,展示该提供商的模型性能快照。
嵌入这张最近测试图片,展示该提供商最新的基准测试快照。