Meta
·Released on 23 июл. 2024 г.

Llama 3.1 70B Instruct API Benchmarks, Pricing & Provider Data

Compare Llama 3.1 70B Instruct with another model

Choose a model to open its comparison page.

Share on X
LLM

Цены API Llama 3.1 70B Instruct у поставщиков (2): от $0.020/request до $0.020/request.

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases. It has demonstrated strong...

Стоимость
$0.020/ 1M · 8:1 in:out
$0.0032 in · $0.017 out

Specifications

Input and output token limits for this model, plus how it ranks on long-context understanding.

INPUT
131.1Ktokens
157.3 pages of text
OUTPUT
8.2Ktokens
8K128K1M4M
131.1K

Возможности

Technical Details

Вход
Выход
Всего параметров
70B
Выпущена
Jul 2024
Срез знаний
2023-12-31
Документация
Токенизатор
Llama3
Архитектура
text->text
Тип инструкций
llama3
Модерация
Да
Поддерживаемые параметры
frequency_penaltylogit_biasmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_p

Эндпоинты OpenRouter

2 эндпоинтов

Сторонние данные эндпоинтов OpenRouter показаны отдельно от измерений LMSpeed. Некоторые 30-минутные live-метрики появляются только после синхронизации с OpenRouter API key.

Provider endpointВходВыводДоступность 1 деньЗадержка 30мПропускная способность 30мКонтекст / вывод
Amazon Bedrock
amazon-bedrock
$0.720/M$0.720/M99.9%undefined токенов / undefined токенов
DeepInfra
deepinfra/turbo
$0.400/M$0.400/M99.3%undefined токенов / undefined токенов

Сравнение цен

Compare Llama 3.1 70B Instruct API pricing across 2 providers. Prices range from $0.020/request to $0.020/request. 91VIP API offers the lowest rate at $0.020/request.

ПровайдерРаботоспособностьВариант моделиГруппаВходные данные ($/M)Выходные данные ($/M)Скорость (т/с)Первый токенАудит
L1
100%
laohuang/meta/llama-3.1-70b-instruct
default
$0.020/request
-

Альтернативы и похожие модели

Frequently Asked Questions

What benchmark data does Llama 3.1 70B Instruct include?
LMSpeed shows Llama 3.1 70B Instruct benchmark context, API price, output speed, first-token latency, and provider data across 2 providers when those signals are available.
Сколько стоит API Llama 3.1 70B Instruct?
Цены Llama 3.1 70B Instruct у поставщиков (2): от $0.020/request до $0.020/request. Самая низкая указанная цена — у 91VIP API.
What does the Llama 3.1 70B Instruct API pricing table include?
The Llama 3.1 70B Instruct API pricing table compares 2 providers by input price, output price, free tier status, speed, first-token latency, and recent health data when available.
У какого провайдера самая низкая цена API Llama 3.1 70B Instruct?
Сейчас самая низкая указанная цена Llama 3.1 70B Instruct — $0.020/request у 91VIP API. Сравниваются поставщики: 2.
Является ли API Llama 3.1 70B Instruct бесплатным?
У Llama 3.1 70B Instruct в настоящее время нет бесплатного тарифа API на LMSpeed. Все 2 провайдеров взимают плату за token.

Также известна как

laohuang/meta/llama-3.1-70b-instructllama-3.1-70b-instructmeta-llama/llama-3-1-70b-instructmeta-llama/llama-3.1-70b-instructmeta/llama-3.1-70b-instruct

Рейтинги основаны на тестах, предоставленных сообществом, и периодических зондах работоспособности. Носит рекомендательный характер, не является официальными данными.Стандартные бенчмарки могут включать BenchLM и другие открытые источники.

Работайте с данными LMSpeed

Бесплатно

Бесплатный публичный API для цен LLM, бенчмарков и данных провайдеров

  • Актуальные цены и доступность
  • Бенчмарки скорости и задержки
  • 300+ моделей, 600+ провайдеров
  • 1 000 запросов в день
Документация API