ZenMux是一个企业级LLM网关,提供统一访问多个AI模型的服务,并内置对低质量结果的补偿机制。
ZenMux 目前提供 4 个大模型 API。
速度基准测试平均吞吐 79 tok/s。
zenmux.ai