这项检测怎么跑
工具调用改写检测,会看中转站会不会在返回路上改掉包安装命令。这种改动可能把一次可信安装,变成供应链风险。
01探测
通过工具调用,让模型给出一条包安装命令。
02检查
对比返回命令和预期安装目标。
03判定
包名或来源在返回路上被改了,就记为改写。
- 结果怎么看
- 改写来自中转层,不是模型打错字。哪怕只改一个字符,也是供应链问题。
- 什么时候该跑这一项
- 应用会执行接口返回的工具调用时,必须跑这项。纯聊天接口也有参考价值,但 Agent 栈更需要。
最近报告
包含这项检测的公开报告。
常见问题
什么是中转站工具调用改写?
就是返回路径在客户端收到之前,改了工具参数,比如包安装命令。
为什么用包安装命令做测试?
因为它影响很大。只改一点点,就可能装上另一个包,形成供应链问题。
这能覆盖模型会调用的所有工具吗?
不能。它只检查这个改写面。其他工具参数仍可能被改,需要另外审查。
