同一个网关,不同协议:哪些能力真的能用?
在参数被协议转换影响之前,用一套简单的方法检查模型和接口的兼容性。

从任务出发,不要只看协议名称
两个接口都能处理对话,并不代表它们的行为完全一样:有的应用只需要文本,有的还依赖图片、结构化输出或工具调用。先列出请求和响应中不能丢失的能力,再选择同时支持这些能力的模型与接口。兼容某种接口格式,不代表每个模型都实现了其中所有字段。
接口名称相似,通常只说明部分请求和响应的结构接近,并不代表所有模型都理解相同参数。温度、输出长度、结构化格式、图像输入和工具定义,都可能存在不同限制。模型提供方、网关和客户端库也可能分别做校验或转换。选型时应把“接口可调用”和“业务所需能力可用”分成两项测试。
做一张小型兼容表
为计划使用的每组模型和接口记录输入类型、流式输出、工具调用、输出格式和重要限制。每一项关键能力都发送一次最小请求。如果产品依赖某个字段,而模型不支持它,就应在上线前解决;普通文本请求成功,并不能证明图片或工具也能用。
同一个模型的普通文本请求成功,不足以证明流式输出、工具调用和图片输入都可用。分别测试流事件的结束标记、工具名称与参数格式、图片所用的输入方式,以及错误时返回的信息。不要把某一提供方的字段直接当作所有接口的标准;具体模型和端点以其当前文档与实际测试为准。
保存一套小而有代表性的样本:普通文本、参数边界、流式中断、工具调用和必要的多模态输入。每次更换模型、升级客户端或调整网关后运行一次,并比较输出结构而不只看状态码。测试数据要去除密钥和客户内容。发现差异时记录影响范围和回退方案,再决定是否推广到生产环境。
一条有用的记录至少包括模型版本、请求接口、测试输入类别、预期结果、实际结果和测试日期。不要只写“兼容”或“不兼容”,因为同一组合可能支持文本却不支持某种图片输入。对尚未测试的字段保持未知状态,并在依赖它的功能上线前补测。
协议适配器可以连接接口,但部分能力未必能够转换。检查请求与响应的两端
在测试中保留脱敏后的请求和响应样本,观察可选字段是被拒绝、忽略还是转换,以及响应是否包含应用需要的信息。不要把真实密钥、私人提示词或客户内容放进公开测试数据。模型版本或服务方发生变化时,重新执行这些检查。
对每一个业务依赖的参数,记录它是被接受并生效、被明确拒绝、被忽略,还是在转换后改变含义。测试时同时检查请求与响应,尤其注意字段缺失与显式零值或 false 的区别。不要因为服务器返回成功就认定参数生效;可以设计能观察差异的输入,并将脱敏后的结果放入回归测试。
提前决定能力缺失时怎么办
有些差异可以由应用处理,例如模型不支持某功能时禁用相应控件;有些则需要更换模型或接口。遇到无法满足的请求时,给出清楚的错误提示,避免悄悄丢掉用户指令。把模型文档链接和测试结果放在兼容表旁边,方便团队维护。
如果一个参数尚未验证,不要在内部表格里直接写“支持”。可以标为待测试,并记录测试日期、模型 ID、接口、结果与限制。对于暂时无法转换的能力,产品上可以禁用对应选项、提供清晰提示,或引导用户选择另一模型。对于会影响结果的差异,应优先显式报错,避免用户误以为指令已被执行。
同一个字段,也要看它的含义
协议兼容并不是把请求中的字段换一个名字就结束了。一个接口可能把消息内容表示为字符串,另一个接口可能允许由文本、图片和其他内容块组成的数组。系统指令、工具定义和模型返回的结束原因也可能采用不同结构。即使转换后请求被接受,应用依赖的语义仍可能发生变化。
先区分三种状态:字段不存在、字段存在但为空,以及字段明确设置为零或 false。它们可能分别表示使用默认值、传递空内容和关闭某个功能。测试时保留这些区别,并检查从客户端发送到最终响应的完整链路。不要依赖界面上看起来相似的名称判断两个参数完全等价。
对于无法表达的功能,要事先确定处理方式。可以明确返回不支持、在用户确认后关闭功能,或引导用户选择其他组合;如果悄悄丢弃图片、工具或输出约束,用户可能会把不完整结果当成成功。这类差异比一次清楚的错误更难排查。
流式与工具调用分别验证
流式响应需要检查的不只是第一段文字。确认客户端如何识别事件边界、增量内容、结束事件和错误;中途断开时,已展示的文本是否会被误认为完整答案。不同协议可能把工具调用拆成多次增量,应用必须根据实际格式组装完整参数,再进行校验和执行。
工具调用还涉及名称、参数和结果的往返。模型提出调用并不等于工具已经执行;应用需要验证参数、检查用户权限、处理工具失败,再按当前协议返回结果。用一个只读工具先测试正常输入、缺少字段和无效值,可以比一开始接入多个有副作用的工具更容易发现转换问题。
如果应用依赖结构化输出,也要分别检查模型是否理解约束、接口是否接受相关字段,以及应用能否在输出不符合要求时安全处理。某次返回了合法 JSON 只是一个样本,不足以证明所有请求都满足模式;测试集需要覆盖空值、边界值和意外格式。
维护一份会更新的兼容记录
可以把每个组合记录成一行:模型 ID 与版本、接入协议、输入类型、流式、工具、结构化输出、验证日期和测试结果。对每项能力记录“通过、失败、未测试”及复现条件,不必试图用一个笼统的勾号覆盖所有参数。测试数据尽量小而有代表性,禁止包含真实密钥或客户内容。
例如一个客服应用需要文本问答和订单查询。先验证普通问答,再验证工具参数是否完整,接着让工具返回一条脱敏的模拟订单,检查最终答复是否正确引用结果。然后测试无权限、工具超时和参数缺失。换模型或换协议后重跑同样的测试,差异会更容易定位。
当提供方更新模型、客户端升级或网关转换逻辑改变时,重新验证受影响组合,并保留之前的记录以便比较。对重要能力设置明确的回退方案:是暂停对应功能、提示用户重试,还是切换到已经验证过的模型。具体选择取决于产品对准确性、成本和延迟的要求。
兼容记录还应注明测试使用的客户端版本与网关配置。同一个模型在不同调用路径下可能表现不同,因此复现问题时,要同时提供请求路径和脱敏后的关键字段,而不只是模型名称。
举个具体例子
假设一个客服助手需要回答文本问题,还要调用客户资料查询工具。可以先给每个候选模型同一个问题,再分别测试有效查询和格式错误的参数。记录模型是否提出调用、服务器是否拒绝错误输入、最终回答是否正确使用返回数据。以后增加图片输入时,还要单独测试这一能力,不能因为文本可用就默认图片也可用。