free_chatgpt_api - 大语言模型速度测试 | LM Speed

支持的模型

模型	速度	延迟	测试数
gpt-3.5-turbo	320.10 t/s	2.20s	20
gpt-4o-mini	101.46 t/s	1.27s	45
gpt-3.5-turbo-16k	0.00 t/s	0.00s	10
net-gpt-3.5-turbo	0.00 t/s	0.00s	5
whisper-1	0.00 t/s	0.00s	5
dall-e-2	0.00 t/s	0.00s	5
gpt-3.5-turbo-0125	0.00 t/s	0.00s	5
gpt-3.5-turbo-1106	0.00 t/s	0.00s	5

最近测试记录

时间	模型	速度	延迟
Dec 20, 11:21 AM	gpt-4o-mini	127.59 t/s	0.68s
Dec 20, 11:16 AM	gpt-4o-mini	104.82 t/s	0.78s
Dec 20, 11:15 AM	Unknown	-	-s
Dec 20, 11:14 AM	Unknown	-	-s
Dec 20, 11:14 AM	Unknown	-	-s
Nov 12, 11:19 AM	gpt-4o-mini	50.74 t/s	3.51s
Nov 9, 10:06 AM	gpt-4o-mini	99.60 t/s	1.61s
Jul 18, 10:49 AM	gpt-4o-mini	0.00 t/s	0.00s
Jul 12, 12:26 PM	gpt-4o-mini	186.99 t/s	1.23s
Jul 12, 12:26 PM	gpt-3.5-turbo	466.64 t/s	2.83s