工具呼叫:讓模型提出請求,讓應用掌握決定權
從引數校驗到返回結果,穩妥地把外部工具接入 AI 應用。

工具呼叫首先是一項提議
模型可以建議呼叫某個函式並給出引數,但真正執行什麼仍由你的應用決定。把模型視為規劃者,而不是許可權系統。查詢訂單與退款操作的風險不同,不能因為它們都來自模型就給予相同信任。
先從一個職責單一的函式開始
為工具取清楚的名稱,說明用途,並定義引數結構。只讀搜尋適合作為第一個例子。先確認所選模型與介面支援工具呼叫;不同介面的訊息格式和能力可能不同。給模型足夠的使用上下文,但不要把金鑰放進提示詞。
一個工具最好只完成一件明確的事,例如查詢訂單狀態,而不是同時查詢、修改併傳送通知。為每個引數說明型別、含義和必要條件,縮小模型自由猜測的空間。對於可選欄位,也要在服務端驗證缺失值和非法值。不同模型對工具描述和結構的支援可能不同,必須使用實際要部署的模型進行測試。
模型可以提出工具呼叫,應用程式需要在執行前檢查權限。執行前驗證每一步
在伺服器端解析並校驗每個引數,檢查已登入使用者對目標資源的許可權,設定超時和呼叫限制;涉及敏感操作時要求使用者確認。工具返回的內容同樣不能盲目信任:檢索頁面裡的指令不應覆蓋應用自己的規則。
模型提出訂單 ID,不代表當前使用者有權訪問該訂單。伺服器需要根據已登入使用者、資源歸屬和業務規則做授權判斷;即使工具由模型呼叫,也不能跳過原有許可權系統。對於刪除、付款、傳送訊息等有副作用的操作,先展示具體動作並取得適當確認,再執行可審計的伺服器端流程。
搜尋結果、網頁、檔案和第三方介面返回的資料,可能包含與使用者任務無關甚至試圖改變系統行為的文字。應用應明確區分工具資料與指令,不讓外部內容覆蓋授權規則或要求洩露金鑰。返回給模型的結果儘量只包含完成任務所需的資訊,並根據需要截斷或脫敏。最終動作仍由應用的確定性程式碼控制。
返回有用的結果,並留下線索
按照介面要求把精簡的工具結果交回模型;如果協議支援,再讓模型繼續完成回答。記錄工具名稱、結果和請求標識,但不要記錄憑據或不必要的私人資料。測試引數無效、服務不可用和重複呼叫,不要只驗證理想情況。
一次任務可能需要多次工具呼叫,但不能讓模型無限迴圈呼叫。為每次操作設定合理的超時、呼叫次數和整體截止時間;外部服務失敗時返回明確的失敗結果,讓模型或介面決定下一步。不要把失敗偽裝成成功,也不要在使用者不知情的情況下重複執行有費用或副作用的操作。
除了正常查詢,至少測試引數缺失、型別錯誤、越權資源、工具超時和重複呼叫。加入一條包含惡意指令的工具結果,確認應用不會因此改變許可權判斷。記錄工具名稱、結果狀態與請求標識,避免把完整金鑰、私人對話和不必要的客戶資料寫入日誌。遇到敏感操作時,確保確認步驟清楚且不可被模型繞過。
把模型的建議當作不可信輸入
模型返回的工具名稱和引數是一項建議,最終是否執行由應用決定。即使引數看起來像有效 JSON,也需要根據工具自己的模式檢查必填欄位、型別、長度和允許的取值。不要把模型輸出直接拼進資料庫查詢、命令列或任意網址;對於資源標識,還要驗證當前使用者是否有權訪問。
工具職責越單一,越容易說明和測試。一個“查詢訂單狀態”的只讀工具,通常比一個同時查詢、修改和退款的大工具更容易控制。為每個工具描述它能做什麼、需要什麼引數、會返回什麼,以及不應該處理哪些情況。不要把安全規則寄託在描述文字上,許可權必須由服務端執行。
工具結果同樣可能包含不可信內容。網頁、文件或外部系統返回的文字不應自動獲得系統指令的許可權。應用需要把資料與指令區分開,並限定模型下一步能呼叫的工具。對敏感資訊,只返回完成當前任務所需的最少欄位。
先設計失敗和人工確認
工具可能超時、返回空結果、拒絕許可權,也可能因為外部系統不可用而失敗。應用應把可以解釋的結果交回模型或直接提示使用者,而不是偽造一條成功記錄。對可重試的只讀操作設定合理上限;對建立訂單、傳送訊息或更改資料等有副作用的操作,先確認是否具備防止重複執行的機制。
高影響操作應當在執行前呈現清晰的摘要,讓使用者知道將影響什麼,再由合適的服務端許可權與確認流程決定是否繼續。模型自己說“已經獲得許可”並不能代替真實授權。確認應繫結具體操作和引數,避免使用者同意一次查詢後被當成同意任意後續修改。
保留脫敏的呼叫記錄:請求標識、工具名稱、執行結果類別和耗時。除非業務確實需要且有相應保護,不要把金鑰、完整客戶資料或敏感工具響應寫進日誌。發生問題時,這些記錄應幫助團隊判斷是模型建議不合適、引數校驗失敗,還是工具本身不可用。
從一個只讀場景開始練習
設想一個助手需要回答“我的訂單到哪裡了”。應用先識別當前登入使用者,模型提出查詢訂單狀態的工具和訂單標識,服務端驗證訂單確實屬於該使用者,再返回脫敏的物流狀態。模型最後把結果整理成自然語言;如果沒有許可權或訂單不存在,應用應給出合適的提示,不能讓模型猜測。
在測試中覆蓋正確訂單、另一個使用者的訂單、缺少標識、格式錯誤和工具超時。檢查工具是否只被允許呼叫一次,結果是否被準確引用,以及模型在沒有資料時是否明確說明不知道。對於帶有多輪對話的應用,還要測試舊上下文裡過期的訂單號不會覆蓋使用者本次輸入。
當這個流程穩定後,再考慮更多工具。每增加一種工具,都重新檢查引數模式、授權邊界、失敗路徑和重複執行風險。把工具呼叫視為應用工作流的一部分,而不只是模型的一項開關,才能讓功能在真實使用者和異常輸入面前保持可控。
對帶寫入許可權的工具,測試還應覆蓋使用者撤回確認、重複點選和請求中途失敗。工具執行結果要來自真實服務的響應;如果狀態未知,應直接說明,而不是讓模型根據上下文自行宣佈操作已經完成。
先試一個只讀查詢
例如,做一個按訂單 ID 查詢狀態的工具:只提供必需的引數,在伺服器端確認當前使用者有權檢視該訂單,再返回簡短狀態,而不是整條記錄。隨後測試缺少 ID 和查詢他人訂單兩種情況。如果以後增加取消訂單工具,應在執行這個獨立操作前要求適當確認。
當工具準備執行重要操作時,向使用者說明物件、動作和可能影響,再由伺服器根據當前狀態重新驗證許可權。確認應針對這一次具體操作,不能把模型先前的自然語言回答當成授權。操作完成或失敗後,返回與真實結果一致的資訊,方便使用者繼續處理。