这项检测怎么跑
LLM 上下文窗口测试,会找出中转站真正能保住多少上下文。宣传中的窗口,可能比截断或静默丢弃后的可用窗口更大。
01探测
在逐渐变长的上下文里放入标记。
02检查
继续加大,直到接口丢掉或忘掉某个标记。
03判定
报告最后一个还能保住标记的长度。
- 结果怎么看
- 可用窗口可能比宣传数字更小。窗口过短,对 RAG 和长 Agent 记录是产品风险,不只是一个参数。
- 什么时候该跑这一项
- 买 128K 或 200K 线路前先跑这项。测速看不出静默截断。
最近报告
包含这项检测的公开报告。
常见问题
LLM 上下文窗口测试是做什么的?
它测量中转站真正能保住的上下文,而不只是宣传页上的数字。
为什么真实窗口会更小?
中转站可能截断、摘要或丢掉旧 Token,用来省钱或贴合上游限制。
这能证明官方模型上限吗?
不能。它只证明这次检测时,这个接口的可用窗口。官方模型上限仍可能不同。
