LLMService 提供大型语言模型的 API 访问,支持自用应用集成。
LLMService 目前提供 1 个大模型 API。
速度基准测试平均吞吐 14 tok/s。
https://gpt.api.mikolo.top