运行完整 13 步 audit

工具调用改写

检查中转站会不会改写工具调用

看包安装命令在回到客户端之前会不会被改掉。

这项检测怎么跑

工具调用改写检测,会看中转站会不会在返回路上改掉包安装命令。这种改动可能把一次可信安装,变成供应链风险。

  1. 01探测

    通过工具调用,让模型给出一条包安装命令。

  2. 02检查

    对比返回命令和预期安装目标。

  3. 03判定

    包名或来源在返回路上被改了,就记为改写。

结果怎么看
改写来自中转层,不是模型打错字。哪怕只改一个字符,也是供应链问题。
什么时候该跑这一项
应用会执行接口返回的工具调用时,必须跑这项。纯聊天接口也有参考价值,但 Agent 栈更需要。

最近报告

包含这项检测的公开报告。

常见问题

什么是中转站工具调用改写?

就是返回路径在客户端收到之前,改了工具参数,比如包安装命令。

为什么用包安装命令做测试?

因为它影响很大。只改一点点,就可能装上另一个包,形成供应链问题。

这能覆盖模型会调用的所有工具吗?

不能。它只检查这个改写面。其他工具参数仍可能被改,需要另外审查。

其他检测项