平均速度44.59 t/s
延迟0.87 s
总测试数5
模型数1
更新于3/16/2026
创建时间3/15/2026
A
llama.cpp
llama.cpp 是一个开源推理引擎，用于在本地高效运行大型语言模型，针对 CPU 和 GPU 性能进行了优化。
关于 llama.cpp
健康检查
99%近期可用性
历史记录 (72 条)
过去现在
社区交流
加入 LMSpeed QQ 群
欢迎加入交流测速动态与反馈支持，群号：
llama.cpp 是一个开源推理引擎，用于在本地高效运行大型语言模型，针对 CPU 和 GPU 性能进行了优化。
| 模型 | 速度 | 延迟 | 测试数 |
|---|---|---|---|
| Qwen3.5-35B-A3B-Q4_K_M.gguf | 44.59 t/s | 0.87s | 5 |
| 时间 | 模型 | 速度 | 延迟 |
|---|---|---|---|
| Mar 15, 01:02 PM | Qwen3.5-35B-A3B-Q4_K_M.gguf | 44.59 t/s | 0.87s |