ツール呼び出し:提案はモデル、実行の判断はアプリ
モデルが求める操作を検証し、役立つ結果を安全に返す方法です。

ツール呼び出しは提案
モデルは関数と引数を提案できますが、実際に何を実行するかはアプリが決めます。モデルを権限管理の代わりにしてはいけません。注文の参照と返金ではリスクが異なるため、同じ信頼を与えないことが大切です。
小さな関数から始める
名前、目的、引数の形式が明確なツールを用意します。最初は読み取り専用の検索が適しています。モデルとエンドポイントがツール呼び出しに対応するか確認してください。メッセージ形式は異なることがあり、プロンプトに秘密情報を含めてはいけません。
一つのツールは注文状態の参照など明確な仕事に絞り、参照・変更・通知を同時に行わないようにします。引数の型、意味、必須条件を説明し、任意項目もサーバーで欠落や不正値を検証します。モデルによってツール定義の扱いは異なるため、本番で使うモデルで試してください。
モデルはツール呼び出しを提案し、アプリが実行前に権限を確認する。実行前にサーバーで検証
すべての引数を解析して検証し、ログイン中のユーザーに対象リソースの権限があるか確かめます。タイムアウトと制限を設け、重要な操作には確認を求めます。取得したページなどの結果も信頼できないデータとして扱い、アプリの規則を上書きさせません。
モデルが注文 ID を提案しても、利用者がその注文を閲覧できるとは限りません。ログイン中の利用者、リソースの所有者、業務ルールをサーバーで確認し、既存の権限管理を迂回させません。削除、支払い、メッセージ送信などは具体的な操作を示し、適切な確認を得てから監査可能な処理を行います。
検索結果、ページ、ファイル、外部 API には無関係な指示や悪意ある内容が含まれる場合があります。データと命令を分け、外部内容が権限規則を上書きしたり秘密を要求したりしないようにします。モデルには必要な情報だけを返し、必要に応じて省略や脱敏を行います。最終操作の責任はアプリの決定的なコードにあります。
結果を返し、手掛かりを残す
エンドポイントが要求する形式で簡潔な結果を返し、対応するプロトコルならモデルに続きを依頼します。ツール名、結果、リクエスト ID は記録できますが、認証情報や不要な個人情報は残しません。不正な引数、サービス障害、重複呼び出しも試験します。
一つの作業で複数回呼び出すことはあっても、無限に繰り返してはいけません。操作ごとのタイムアウト、回数、全体の期限を設定します。外部サービスが使えない場合は明確に失敗を返し、次の操作を判断できるようにします。失敗を成功に見せたり、費用や副作用のある操作を無断で繰り返したりしません。
引数の欠落や型違い、権限のないリソース、タイムアウト、重複呼び出しを試します。悪意ある指示を含むツール結果も用意し、権限判断が変わらないことを確認します。ツール名、結果、リクエスト ID を記録し、完全なキーや不要な個人情報は記録しません。重要な操作の確認はモデルが迂回できないようにします。
モデルの提案をそのまま実行しない
ツール名と引数はモデルからの提案です。アプリは必須項目、型、長さ、許可された値を検証し、対象のデータへ現在のユーザーがアクセスできるかを確認します。出力を SQL、コマンド、任意の URL に直接連結してはいけません。権限は説明文ではなくサーバー側で強制します。
ツールは一つの責任に絞ると扱いやすくなります。注文の状態を読む機能と、注文の変更や返金を行う機能は分けて考えます。必要な引数、返す内容、扱わない範囲を説明し、外部ページや文書から得たテキストも信頼できないデータとして扱います。
ツールの応答には現在の目的に必要な最小限の情報だけを含めます。外部データに含まれる指示が、システムの指示やユーザー権限を上書きしないよう、アプリ側で利用できる操作を制限します。
失敗と確認を先に設計する
ツールがタイムアウト、空結果、権限エラーを返した場合に何を伝えるか決めます。成功を捏造せず、状況に応じてモデルへ結果を返すかユーザーへ説明します。読み取りの再試行にも上限を設け、書き込みや送信では重複実行を防ぐ仕組みを確認します。
影響の大きな操作は、実行前に対象と内容をユーザーが確認できるようにします。モデルが「許可された」と述べても、実際の認可の代わりにはなりません。確認は具体的な操作と引数に結びつけ、一度の照会への同意を後続の変更全体への同意と扱わないことが重要です。
ログにはリクエスト ID、ツール名、結果の種類、所要時間を記録できます。実際のキーや顧客情報を無条件に保存せず、モデルの提案、検証、外部サービスのどこで失敗したかを調べられるようにします。
一つの読み取りから始める
注文状況を尋ねる助手を考えます。アプリがログインユーザーを特定し、モデルが注文番号を使った照会を提案します。サーバーは注文がそのユーザーのものか確認してから、必要な配送状況だけを返します。権限がない場合や注文がない場合に、モデルが答えを推測しないことも必要です。
正しい注文、他人の注文、番号の欠落、不正な形式、ツールのタイムアウトを試します。古い会話にある注文番号が今回の入力を上書きしないか、結果が最終回答に正確に反映されるかも確認します。
書き込みを追加する際は、確認の取り消し、二重クリック、途中失敗と結果不明を検証します。結果は実際のサービスから取得し、不明なら不明と伝えます。ツールごとに認可、失敗、重複の境界を見直しましょう。
まず読み取り専用の検索を試す
注文 ID で状態を調べるツールなら、必要な引数だけを受け取り、サーバー側でユーザーの閲覧権限を確認し、全レコードではなく短い状態を返します。ID がない場合や他人の注文も試してください。将来キャンセル機能を追加するなら、その別の操作に適切な確認を設けます。
重要な操作の前に、対象、操作内容、想定される影響を利用者に示します。その後サーバーで現在の状態と権限を再確認します。確認はその具体的な操作に対するもので、モデルが以前に書いた文章は認可ではありません。実際の成功または失敗を正しく伝えます。