Ollama

Ollama 目前提供 3 个大模型 API。

速度基准测试平均吞吐 53 tok/s。