Библиотека моделей

LMSpeed — это каталог AI-моделей для сравнения цен API, скорости вывода, задержки первого токена, охвата провайдеров и данных бенчмарков. Сначала сузьте выбор модели и провайдера, затем проверьте endpoint для своей задачи.

Цена, скорость, задержка и доступность могут меняться. Считайте эту таблицу текущим сигналом и проверьте свой endpoint перед запуском.

Лучшее для агентов

Лучшее в рассуждениях

Лучшее в кодинге

Наибольшая пропускная способность

Новейшие Наиболее тестируемые Недавно тестированные А–Я

Модель	Контекст	Ввод	Вывод	Провайдеры	Агенты	Кодинг	Рассуждения	Знания	Математика	Мультиязычность	Мультимодальность	Следование инструкциям	Пропускная способность	Задержка	Дата выпуска
Llama Nemotron Embed VL 1B V2NVIDIA	Контекст131.1K	Ввод—	Вывод—	Провайдеры	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2026-02-25	— — — — — — — —
Llama Nemotron Rerank VL 1B V2NVIDIA	Контекст10.2K	Ввод—	Вывод—	Провайдеры—	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2026-06-09	— — — — — — — —
Llama 3 8B InstructMeta	Контекст8.2K	Ввод—	Вывод—	Провайдеры +1	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска—	— — — — — — — —
Llama 3.1 70B InstructMeta	Контекст131.1K	Ввод—	Вывод—	Провайдеры +1	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2024-07-23	— — — — — — — —
Llama 3.1 8B InstructMeta	Контекст131.1K	Ввод—	Вывод—	Провайдеры +2	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2024-07-23	— — — — — — — —
Hermes 3 70B InstructNous	Контекст131.1K	Ввод$0.700/M	Вывод$0.700/M	Провайдеры—	—	41.1±16.0P	37.6±11.1E	—	39.6±11.8E	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2024-08-18	— 41.1 37.6 — 39.6 — — —
Llama 3.2 11B Vision InstructMeta	Контекст131.1K	Ввод—	Вывод—	Провайдеры +4	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2024-09-25	— — — — — — — —
Llama 3.2 1B InstructMeta	Контекст60K	Ввод—	Вывод—	Провайдеры +4	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2024-09-25	— — — — — — — —
Llama 3.2 3B InstructMeta	Контекст131.1K	Ввод—	Вывод—	Провайдеры +8	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2024-09-25	— — — — — — — —
Llama 3.3 70B InstructMeta	Контекст131.1K	Ввод—	Вывод—	Провайдеры +6	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2024-12-06	— — — — — — — —
R1 Distill Llama 70BDeepSeek	Контекст8.2K	Ввод$0.700/M	Вывод$1.10/M	Провайдеры	—	43.3±16.0P	45.2±11.1E	—	55±11.8E	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2025-01-23	— 43.3 45.2 — 55 — — —
Llama Guard 4 12BMeta	Контекст163.8K	Ввод—	Вывод—	Провайдеры	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2025-04-30	— — — — — — — —
Llama 3.3 Nemotron Super 49B V1.5NVIDIA	Контекст131.1K	Ввод—	Вывод—	Провайдеры +1	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2025-10-10	— — — — — — — —
MiniMax M3MiniMax	Контекст1.0M	Ввод$0.300/M	Вывод$1.20/M	Провайдеры +96	52.7±7.3	51.2±6.6	58.9±10.8E	49.6±14.0P	—	—	46.7±12.0E	57.8±16.0P	Пропускная способность 81 t/s	Задержка 2.49с	Дата выпуска2026-05-31	52.7 51.2 58.9 49.6 — — 46.7 57.8
Aion RP Llama 3.1	Контекст32.8K	Ввод—	Вывод—	Провайдеры +5	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2025-02-04	— — — — — — — —
Hermes 3 Llama 3.1	Контекст131.1K	Ввод—	Вывод—	Провайдеры +21	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска2024-08-18	— — — — — — — —
Llama 3.1Meta	Контекст—	Ввод—	Вывод—	Провайдеры +24	37.4±16.0P	41.1±16.0P	36.2±10.8E	47.2±16.0P	—	—	—	43.1±16.0P	Пропускная способность —	Задержка —	Дата выпуска—	37.4 41.1 36.2 47.2 — — — 43.1
Llama 3.3Meta	Контекст—	Ввод—	Вывод—	Провайдеры +13	—	—	—	—	—	—	—	—	Пропускная способность 985 t/s	Задержка 0.45с	Дата выпуска—	— — — — — — — —
Meta Llama 3.3 Instruct	Контекст—	Ввод—	Вывод—	Провайдеры	—	—	—	—	—	—	—	—	Пропускная способность 48 t/s	Задержка 0.93с	Дата выпуска—	— — — — — — — —
Dracarys Llama 3.1 Instruct	Контекст—	Ввод—	Вывод—	Провайдеры +24	—	—	—	—	—	—	—	—	Пропускная способность 18 t/s	Задержка 0.59с	Дата выпуска—	— — — — — — — —
Usdcode Llama 3.1 Instruct	Контекст—	Ввод—	Вывод—	Провайдеры +5	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска—	— — — — — — — —
Meta Llama 3.1 InstructMeta	Контекст—	Ввод—	Вывод—	Провайдеры +4	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска—	— — — — — — — —
Meta Llama 3.3 Instruct Turbo	Контекст—	Ввод—	Вывод—	Провайдеры	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска—	— — — — — — — —
Meta Llama 3.1 Instruct TurboMeta	Контекст—	Ввод—	Вывод—	Провайдеры +1	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска—	— — — — — — — —
Qwen3.5	Контекст262.1K	Ввод$0.030/M	Вывод$0.150/M	Провайдеры +105	44.1±5.2	45.2±8.9	52.2±8.1	53.1±11.6E	41.4±11.5E	54.6±12.2E	49.7±6.4	53.7±11.9E	Пропускная способность 51 t/s	Задержка 10.34с	Дата выпуска2026-03-10	44.1 45.2 52.2 53.1 41.4 54.6 49.7 53.7
Llama 3.2 Nemoretriever 300m Embed v1Meta	Контекст—	Ввод—	Вывод—	Провайдеры +14	—	—	—	—	—	—	—	—	Пропускная способность —	Задержка —	Дата выпуска—	— — — — — — — —
Llama 4 MaverickMeta	Контекст1.0M	Ввод$0.260/M	Вывод$0.910/M	Провайдеры +19	33.2±11.8E	43.2±13.9P	46.5±8.7	40.9±16.0P	46.1±9.3E	—	—	44.3±16.0P	Пропускная способность —	Задержка —	Дата выпуска2025-04-05	33.2 43.2 46.5 40.9 46.1 — — 44.3
Kimi K2.5MoonshotAI	Контекст262.1K	Ввод$0.600/M	Вывод$3.00/M	Провайдеры +197	38.9±5.1	47.2±7.8	55.3±8.3	47.1±16.3P	49.1±9.0E	44.2±12.2E	52.4±12.0E	54.1±11.9E	Пропускная способность 144 t/s	Задержка 11.93с	Дата выпуска2026-01-27	38.9 47.2 55.3 47.1 49.1 44.2 52.4 54.1
GLM-4.7 FlashZ.ai	Контекст202.8K	Ввод$0.070/M	Вывод$0.400/M	Провайдеры +56	—	—	40.2±13.9P	—	—	—	—	—	Пропускная способность 57 t/s	Задержка 22.54с	Дата выпуска2026-01-19	— — 40.2 — — — — —
MiniMax M2.7MiniMax	Контекст204.8K	Ввод$0.300/M	Вывод$1.20/M	Провайдеры +174	44.5±6.0	45.7±8.2	54.4±10.8E	48.3±14.0P	—	—	—	54.6±16.0P	Пропускная способность 203 t/s	Задержка 6.87с	Дата выпуска2026-03-18	44.5 45.7 54.4 48.3 — — — 54.6
Gemini 3 FlashGoogle	Контекст1.0M	Ввод$0.500/M	Вывод$3.00/M	Провайдеры +185	43.2±8.9	52.5±11.2E	51.8±8.7	50.4±16.0P	51.5±16.1P	—	—	47.8±16.0P	Пропускная способность 162 t/s	Задержка 7.48с	Дата выпуска2025-12-17	43.2 52.5 51.8 50.4 51.5 — — 47.8
Llama 4 ScoutMeta	Контекст1.3M	Ввод$0.190/M	Вывод$0.680/M	Провайдеры +39	33.8±11.8E	31.9±13.9P	41.4±8.7	38.3±16.0P	44.3±9.3E	—	—	43.2±16.0P	Пропускная способность 75 t/s	Задержка 1.62с	Дата выпуска2025-04-05	33.8 31.9 41.4 38.3 44.3 — — 43.2
DeepSeek R1DeepSeek	Контекст64K	Ввод$1.35/M	Вывод$3.00/M	Провайдеры +149	41±16.0P	49.6±13.9P	49.9±8.7	44.6±16.0P	57±11.8E	—	—	43.3±16.0P	Пропускная способность 52 t/s	Задержка 10.36с	Дата выпуска2025-05-28	41 49.6 49.9 44.6 57 — — 43.3
GLM-5Z.ai	Контекст204.8K	Ввод$1.00/M	Вывод$3.20/M	Провайдеры +188	41.4±5.6	51.5±8.1	48.7±8.1	43.2±16.3P	51±9.1E	43.8±12.2E	—	52.4±11.9E	Пропускная способность 51 t/s	Задержка 21.59с	Дата выпуска2026-02-11	41.4 51.5 48.7 43.2 51 43.8 — 52.4
MiniMax M2.5MiniMax	Контекст204.8K	Ввод$0.300/M	Вывод$1.20/M	Провайдеры +188	—	46±16.1P	54.3±13.9P	—	—	—	—	—	Пропускная способность 61 t/s	Задержка 9.68с	Дата выпуска2026-02-12	— 46 54.3 — — — — —
GPT-OSS	Контекст131.1K	Ввод—	Вывод—	Провайдеры +137	—	—	—	—	—	—	—	—	Пропускная способность 374 t/s	Задержка 3.23с	Дата выпуска2025-08-05	— — — — — — — —

Как читать оценки категорий

Агенты, кодирование, рассуждение и другие столбцы — это оценки наблюдаемой способности 0–100 относительно допустимых моделей запуска Category Score V3.

Это не вероятность успеха, не IQ и не среднее восьми категорий. Читайте их вместе с 80% интервалом, измеренными аспектами, семействами бенчмарков и доказательствами на странице модели.

Открыть полную методологию оценки

Что показывает этот каталог

В каждой строке собрана информация для сравнения LLM API. Поля остаются пустыми, если у LMSpeed нет текущих данных по модели или провайдеру.

Цена API: Сравнивайте цену входных и выходных токенов за миллион, когда данные доступны.
Скорость и задержка: Используйте пропускную способность и задержку первого токена для сравнения ответа.
Охват провайдеров: Откройте модель, чтобы увидеть перечисленных провайдеров и текущие данные.
Данные о возможностях: Используйте столбцы возможностей, когда текущие оценки модели доступны.

Как использовать каталог моделей

Сначала выберите главный критерий для вашей задачи, затем сравните текущие строки и проверьте endpoint.

Найдите модель.Ищите по названию модели, slug или описанию.
Отсортируйте нужную метрику.Сортируйте по цене, пропускной способности, задержке, числу провайдеров или данным о возможностях.
Сравните провайдеров.Откройте страницу модели, чтобы просмотреть варианты провайдеров и текущие данные.
Проверьте свой endpoint.Запустите тест скорости перед использованием endpoint в production.

Рейтинг цен моделей Рейтинг скорости моделей Рейтинг задержки Каталог провайдеров Тест скорости LLM API

Frequently Asked Questions

How does LMSpeed benchmark AI models?

LMSpeed runs standardized five-round API speed tests on each model, measuring output throughput (tokens per second), first-token latency, and total response time across multiple providers.

Which AI model has the lowest API latency?

Latency varies by provider and model. Use the LMSpeed model directory to sort by latency and find the model with the fastest first-token response time. Check the latency leaderboard for monthly rankings.

How to compare LLM API pricing across providers?

LMSpeed lists input and output token prices per million for each model across available providers. Sort by price to find a lower-cost option, or filter by provider to compare rates side by side.

What is an AI model directory?

An AI model directory is a searchable list of models and their comparison data. On LMSpeed, it brings together API price, throughput, first-token latency, provider coverage, and capability data when available.

How do I choose a model and provider?

Start with the metric that matters most for your workload. Then open a model page to compare provider data. Run your own speed test before you use an endpoint in production.

Can model price and speed change?

Yes. Price, availability, throughput, and latency can change by model, provider, and time. Use current page values as a comparison signal and confirm with your own endpoint test.