Meta
·Released on 23 июл. 2024 г.

Llama 3.1 8B Instruct API Benchmarks, Pricing & Provider Data

Compare Llama 3.1 8B Instruct with another model

Choose a model to open its comparison page.

Share on X
LLM

Цены API Llama 3.1 8B Instruct у поставщиков (4): от $0.012/M до $0.027/M.

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...

Стоимость
$0.012/ 1M · 8:1 in:out
$0.0020 in · $0.010 out

Specifications

Input and output token limits for this model, plus how it ranks on long-context understanding.

INPUT
131.1Ktokens
157.3 pages of text
OUTPUT
118.0Ktokens
8K128K1M4M
131.1K

Возможности

Technical Details

Вход
Выход
Всего параметров
8B
Выпущена
Jul 2024
Срез знаний
2023-12-31
Документация
Токенизатор
Llama3
Архитектура
text->text
Тип инструкций
llama3
Модерация
Нет
Поддерживаемые параметры
frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p

Эндпоинты OpenRouter

5 эндпоинтов

Сторонние данные эндпоинтов OpenRouter показаны отдельно от измерений LMSpeed. Некоторые 30-минутные live-метрики появляются только после синхронизации с OpenRouter API key.

Provider endpointВходВыводДоступность 1 деньЗадержка 30мПропускная способность 30мКонтекст / вывод
CoreWeave
coreweave/bf16
$0.220/M$0.220/M100.0%undefined токенов / undefined токенов
Groq
groq
$0.050/M$0.080/M99.9%undefined токенов / undefined токенов
DeepInfra
deepinfra/fp8
$0.020/M$0.040/M99.9%undefined токенов / undefined токенов
Cloudflare
cloudflare/fp8
$0.152/M$0.287/M99.7%undefined токенов / undefined токенов
Novita
novita/fp8
$0.020/M$0.050/M99.5%undefined токенов / undefined токенов

Сравнение цен

Compare Llama 3.1 8B Instruct API pricing across 4 providers. Prices range from $0.012/M to $0.027/M. 云AI offers the lowest rate at $0.012/M.

ПровайдерРаботоспособностьВариант моделиГруппаВходные данные ($/M)Выходные данные ($/M)Скорость (т/с)Первый токенАудит
L1
100%
llama-3.1-8b-instruct
azure03-0
$0.012/M
$0.026/M
L1
100%
llama-3.1-8b-instruct
default
$0.027/M
$0.041/M
L1
100%
laohuang/meta/llama-3.1-8b-instruct
default
$0.020/request
-

Альтернативы и похожие модели

Frequently Asked Questions

What benchmark data does Llama 3.1 8B Instruct include?
LMSpeed shows Llama 3.1 8B Instruct benchmark context, API price, output speed, first-token latency, and provider data across 4 providers when those signals are available.
Сколько стоит API Llama 3.1 8B Instruct?
Цены Llama 3.1 8B Instruct у поставщиков (4): от $0.012/M до $0.027/M. Самая низкая указанная цена — у 云AI.
What does the Llama 3.1 8B Instruct API pricing table include?
The Llama 3.1 8B Instruct API pricing table compares 4 providers by input price, output price, free tier status, speed, first-token latency, and recent health data when available.
У какого провайдера самая низкая цена API Llama 3.1 8B Instruct?
Сейчас самая низкая указанная цена Llama 3.1 8B Instruct — $0.012/M у 云AI. Сравниваются поставщики: 4.
Является ли API Llama 3.1 8B Instruct бесплатным?
У Llama 3.1 8B Instruct в настоящее время нет бесплатного тарифа API на LMSpeed. Все 4 провайдеров взимают плату за token.

Также известна как

laohuang/meta/llama-3.1-8b-instructllama-3.1-8b-instructmeta-llama/llama-3.1-8b-instructmeta/llama-3.1-8b-instruct

Рейтинги основаны на тестах, предоставленных сообществом, и периодических зондах работоспособности. Носит рекомендательный характер, не является официальными данными.Стандартные бенчмарки могут включать BenchLM и другие открытые источники.

Работайте с данными LMSpeed

Бесплатно

Бесплатный публичный API для цен LLM, бенчмарков и данных провайдеров

  • Актуальные цены и доступность
  • Бенчмарки скорости и задержки
  • 300+ моделей, 600+ провайдеров
  • 1 000 запросов в день
Документация API