工具调用:让模型提出请求,让应用掌握决定权
从参数校验到返回结果,稳妥地把外部工具接入 AI 应用。

工具调用首先是一项提议
模型可以建议调用某个函数并给出参数,但真正执行什么仍由你的应用决定。把模型视为规划者,而不是权限系统。查询订单与退款操作的风险不同,不能因为它们都来自模型就给予相同信任。
先从一个职责单一的函数开始
为工具取清楚的名称,说明用途,并定义参数结构。只读搜索适合作为第一个例子。先确认所选模型与接口支持工具调用;不同接口的消息格式和能力可能不同。给模型足够的使用上下文,但不要把密钥放进提示词。
一个工具最好只完成一件明确的事,例如查询订单状态,而不是同时查询、修改并发送通知。为每个参数说明类型、含义和必要条件,缩小模型自由猜测的空间。对于可选字段,也要在服务端验证缺失值和非法值。不同模型对工具描述和结构的支持可能不同,必须使用实际要部署的模型进行测试。
模型可以提出工具调用,应用需要在执行前检查权限。执行前验证每一步
在服务器端解析并校验每个参数,检查已登录用户对目标资源的权限,设置超时和调用限制;涉及敏感操作时要求用户确认。工具返回的内容同样不能盲目信任:检索页面里的指令不应覆盖应用自己的规则。
模型提出订单 ID,不代表当前用户有权访问该订单。服务器需要根据已登录用户、资源归属和业务规则做授权判断;即使工具由模型调用,也不能跳过原有权限系统。对于删除、付款、发送消息等有副作用的操作,先展示具体动作并取得适当确认,再执行可审计的服务器端流程。
搜索结果、网页、文件和第三方接口返回的数据,可能包含与用户任务无关甚至试图改变系统行为的文字。应用应明确区分工具数据与指令,不让外部内容覆盖授权规则或要求泄露密钥。返回给模型的结果尽量只包含完成任务所需的信息,并根据需要截断或脱敏。最终动作仍由应用的确定性代码控制。
返回有用的结果,并留下线索
按照接口要求把精简的工具结果交回模型;如果协议支持,再让模型继续完成回答。记录工具名称、结果和请求标识,但不要记录凭据或不必要的私人数据。测试参数无效、服务不可用和重复调用,不要只验证理想情况。
一次任务可能需要多次工具调用,但不能让模型无限循环调用。为每次操作设置合理的超时、调用次数和整体截止时间;外部服务失败时返回明确的失败结果,让模型或界面决定下一步。不要把失败伪装成成功,也不要在用户不知情的情况下重复执行有费用或副作用的操作。
除了正常查询,至少测试参数缺失、类型错误、越权资源、工具超时和重复调用。加入一条包含恶意指令的工具结果,确认应用不会因此改变权限判断。记录工具名称、结果状态与请求标识,避免把完整密钥、私人对话和不必要的客户数据写入日志。遇到敏感操作时,确保确认步骤清楚且不可被模型绕过。
把模型的建议当作不可信输入
模型返回的工具名称和参数是一项建议,最终是否执行由应用决定。即使参数看起来像有效 JSON,也需要根据工具自己的模式检查必填字段、类型、长度和允许的取值。不要把模型输出直接拼进数据库查询、命令行或任意网址;对于资源标识,还要验证当前用户是否有权访问。
工具职责越单一,越容易说明和测试。一个“查询订单状态”的只读工具,通常比一个同时查询、修改和退款的大工具更容易控制。为每个工具描述它能做什么、需要什么参数、会返回什么,以及不应该处理哪些情况。不要把安全规则寄托在描述文字上,权限必须由服务端执行。
工具结果同样可能包含不可信内容。网页、文档或外部系统返回的文字不应自动获得系统指令的权限。应用需要把数据与指令区分开,并限定模型下一步能调用的工具。对敏感信息,只返回完成当前任务所需的最少字段。
先设计失败和人工确认
工具可能超时、返回空结果、拒绝权限,也可能因为外部系统不可用而失败。应用应把可以解释的结果交回模型或直接提示用户,而不是伪造一条成功记录。对可重试的只读操作设置合理上限;对创建订单、发送消息或更改数据等有副作用的操作,先确认是否具备防止重复执行的机制。
高影响操作应当在执行前呈现清晰的摘要,让用户知道将影响什么,再由合适的服务端权限与确认流程决定是否继续。模型自己说“已经获得许可”并不能代替真实授权。确认应绑定具体操作和参数,避免用户同意一次查询后被当成同意任意后续修改。
保留脱敏的调用记录:请求标识、工具名称、执行结果类别和耗时。除非业务确实需要且有相应保护,不要把密钥、完整客户资料或敏感工具响应写进日志。发生问题时,这些记录应帮助团队判断是模型建议不合适、参数校验失败,还是工具本身不可用。
从一个只读场景开始练习
设想一个助手需要回答“我的订单到哪里了”。应用先识别当前登录用户,模型提出查询订单状态的工具和订单标识,服务端验证订单确实属于该用户,再返回脱敏的物流状态。模型最后把结果整理成自然语言;如果没有权限或订单不存在,应用应给出合适的提示,不能让模型猜测。
在测试中覆盖正确订单、另一个用户的订单、缺少标识、格式错误和工具超时。检查工具是否只被允许调用一次,结果是否被准确引用,以及模型在没有数据时是否明确说明不知道。对于带有多轮对话的应用,还要测试旧上下文里过期的订单号不会覆盖用户本次输入。
当这个流程稳定后,再考虑更多工具。每增加一种工具,都重新检查参数模式、授权边界、失败路径和重复执行风险。把工具调用视为应用工作流的一部分,而不只是模型的一项开关,才能让功能在真实用户和异常输入面前保持可控。
对带写入权限的工具,测试还应覆盖用户撤回确认、重复点击和请求中途失败。工具执行结果要来自真实服务的响应;如果状态未知,应直接说明,而不是让模型根据上下文自行宣布操作已经完成。
先试一个只读查询
例如,做一个按订单 ID 查询状态的工具:只提供必需的参数,在服务器端确认当前用户有权查看该订单,再返回简短状态,而不是整条记录。随后测试缺少 ID 和查询他人订单两种情况。如果以后增加取消订单工具,应在执行这个独立操作前要求适当确认。
当工具准备执行重要操作时,向用户说明对象、动作和可能影响,再由服务器根据当前状态重新验证权限。确认应针对这一次具体操作,不能把模型先前的自然语言回答当成授权。操作完成或失败后,返回与真实结果一致的信息,方便用户继续处理。