Meta
·Released on 2024年7月23日

Llama 3.1 8B Instruct API 基准测试 价格和服务商数据

选择与 Llama 3.1 8B Instruct 对比的模型

选择一个模型后会直接打开对应的对比页面。

分享到 X
LLM

Llama 3.1 8B Instruct API 价格覆盖 4 家服务商,价格从 $0.012/M$0.027/M

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...

成本
$0.012/ 1M · 8:1 in:out
$0.0020 in · $0.010 out

技术规格

Input and output token limits for this model, plus how it ranks on long-context understanding.

INPUT
131.1Ktokens
157.3 pages of text
OUTPUT
118.0Ktokens
8K128K1M4M
131.1K

能力

Technical Details

输入
输出
总参数量
8B
发布日期
Jul 2024
知识截止
2023-12-31
Tokenizer
Llama3
架构
text->text
指令类型
llama3
内容审核
支持参数
frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p

OpenRouter 端点

5 个端点

来自 OpenRouter 的第三方端点数据,和 LMSpeed 自测数据分开展示。部分 30 分钟实时性能字段需要配置 OpenRouter API key 后同步才会出现。

Provider endpoint输入输出1 天在线率30m 延迟30m 吞吐上下文 / 输出
CoreWeave
coreweave/bf16
$0.220/M$0.220/M100.0%undefined tokens / undefined tokens
Groq
groq
$0.050/M$0.080/M99.9%undefined tokens / undefined tokens
DeepInfra
deepinfra/fp8
$0.020/M$0.040/M99.9%undefined tokens / undefined tokens
Cloudflare
cloudflare/fp8
$0.152/M$0.287/M99.7%undefined tokens / undefined tokens
Novita
novita/fp8
$0.020/M$0.050/M99.5%undefined tokens / undefined tokens

价格对比

对比 Llama 3.1 8B Instruct 在 4 家服务商的 API 价格。价格从 $0.012/M 到 $0.027/M,其中 云AI 提供最低价 $0.012/M。

服务商健康度模型变体分组输入 ($/M)输出 ($/M)速度 (t/s)首字延迟检测
L1
100%
llama-3.1-8b-instruct
azure03-0
$0.012/M
$0.026/M
L1
100%
llama-3.1-8b-instruct
default
$0.027/M
$0.041/M
L1
100%
laohuang/meta/llama-3.1-8b-instruct
default
$0.020/request
-

替代方案与相似模型

常见问题

Llama 3.1 8B Instruct 包含哪些基准测试数据?
LMSpeed 会在数据可用时展示 Llama 3.1 8B Instruct 的基准测试、API 价格、输出速度、首字延迟和 4 家服务商数据。
Llama 3.1 8B Instruct API 价格是多少?
Llama 3.1 8B Instruct 在 4 家服务商有价格记录,价格从 $0.012/M$0.027/M。最低价由 云AI 提供。
Llama 3.1 8B Instruct API 价格表包含什么?
Llama 3.1 8B Instruct API 价格表会对比 4 家服务商的输入价格、输出价格、免费额度、速度、首字延迟和近期健康数据。
哪家服务商的 Llama 3.1 8B Instruct API 价格最低?
云AI 当前提供 Llama 3.1 8B Instruct 的最低收录价格:$0.012/M,共对比 4 家服务商。
Llama 3.1 8B Instruct 的 API 免费吗?
Llama 3.1 8B Instruct 目前在 LMSpeed 上没有免费 API 方案,4 家服务商均按 token 计费。

别名

laohuang/meta/llama-3.1-8b-instructllama-3.1-8b-instructmeta-llama/llama-3.1-8b-instructmeta/llama-3.1-8b-instruct

排名基于社区提交的测试数据与定期健康探测,仅供参考,非官方数据。标准基准数据可能包含 BenchLM 等公开来源。

通过 API 获取 LMSpeed 数据

免费

免费的大模型价格、基准测试和服务商数据公开 API

  • 实时价格与可用性
  • 速度与延迟基准测试
  • 300+ 模型,600+ 服务商
  • 每天 1,000 次请求
查看 API 文档