AIエージェントを試していると、短い依頼のはずなのにトークン使用量が増え、費用や処理時間が読みにくくなることがあります。原因は一回の回答文だけではありません。長い指示文、毎回添付する資料、道具の実行結果、繰り返し処理が積み重なります。この記事では、AIエージェントのトークンを節約する方法を、品質を落とさず運用するための順番で整理します。料金やキャッシュの条件はモデルごとに異なるため、最終判断では利用先の公式情報を確認してください。
まず「何に使ったトークンか」を分ける
トークンは文章を処理する単位です。文字数と一対一ではなく、言語や記号、モデルによって数え方が変わります。エージェントの一件の依頼には、利用者の入力のほか、システム指示、会話履歴、検索した文書、道具の結果、モデルの出力などが含まれます。複数回モデルを呼べば、その都度必要な内容が再び入力される場合もあります。したがって、最後に表示された回答が短いことだけでは、使用量が少ないとは言えません。
確認すべきなのは「一件あたりの入力」「一件あたりの出力」「モデル呼び出し回数」「検索や道具の実行回数」です。使っているサービスに使用量や実行ログがあれば、まず実際の値を記録します。モデル別の料金体系には入力と出力、キャッシュ済み入力で異なる扱いがあるものもあります。例えばOpenAI APIの公式料金表は区分を示していますが、利用するモデルと契約条件によって適用額は変わります。
最初の一週間は、作業種類ごとに代表的な依頼を十件程度選び、成功率と使用量を記録すると比較しやすくなります。全件のログを読む必要はありません。長文の資料を扱う依頼、道具を何度も使う依頼、すぐ答えられる依頼を混ぜてください。平均だけを見ると高コストな例が埋もれるので、最大値も残しておきます。
節約の優先順位は「無駄な処理」から
いきなり指示文を数行に削ると、守るべき条件が失われることがあります。まずは不要なモデル呼び出し、重複する検索、長すぎる道具の返却結果から点検します。その次に、毎回送る資料や会話履歴の範囲を調整します。出力の長さやモデルの選択は、品質を測る準備ができてから変更する方が安全です。
| 見直す対象 | 節約の方向 | 確認したい副作用 |
|---|---|---|
| 実行回数 | 同じ情報の再検索や無限に近い再試行を減らす | 必要な確認まで省いていないか |
| 入力文書 | 関連部分だけを渡す | 判断に必要な前提を落としていないか |
| 会話履歴 | 古い履歴を要約または区切る | 利用者の条件が消えていないか |
| 出力形式 | 必要な項目と長さを決める | 根拠や例外が不足していないか |
| モデル | 工程に応じて選ぶ | 誤分類や誤回答が増えていないか |
例えば「問い合わせを分類し、回答案を作り、担当者に渡す」エージェントなら、分類と回答案の作成を同じ高性能モデルで毎回行う必要があるか検討できます。ただしモデルを分けることで呼び出し回数が増えれば、合計費用が下がるとは限りません。必ず一件の処理全体で比較します。

実務で使える五つの見直し方
1. 終了条件と再試行の上限を決める
エージェントが検索を繰り返したり、同じ道具を何度も呼んだりすると、使用量は一気に増えます。「必要な情報が見つかったら終了」「二回試しても根拠が得られなければ担当者に確認する」など、仕事に合う停止条件を設けます。上限を決める目的は、必要な調査を省くことではなく、成果が増えない反復を止めることです。
再試行が多い場合は、エージェントの指示文より道具側を点検しましょう。検索語が曖昧、結果に同じ情報が並ぶ、エラーを成功と解釈している、といった原因なら設定変更だけでは解決しません。処理ごとに「何を得られたら次へ進むか」を明確にすると、余分な往復を減らせます。
2. 文書全体ではなく、必要な箇所を渡す
長い社内マニュアルを毎回そのまま入力すると、短い質問にも同じ大量の情報が添付されます。資料は見出しや製品単位で整理し、質問に関係する箇所を選んでからモデルに渡します。検索結果の件数と一件あたりの長さを調整し、似た内容が重複していないか確認してください。検索結果を絞りすぎて正しい根拠が見つからなければ本末転倒です。
資料を短くする前に、出典、更新日、適用対象を残すべきか判断します。例えば旧料金と新料金の違いを答える仕事では、日付を削ると危険です。逆に、問い合わせの分類だけをする工程なら料金表全文は不要かもしれません。工程ごとに必要な文脈を変える発想が有効です。

3. 会話履歴を無制限に積み上げない
会話が長く続くエージェントは、過去のやり取りをどこまで参照するかが重要です。毎回すべてを送れば、終了した話題まで入力に残る場合があります。案件が切り替わるところで会話を分ける、必要な決定事項だけを要約する、利用者が確定した条件を構造化して残す、といった運用を検討します。
ただし、単純な要約で承認条件や禁止事項を消してはいけません。要約後の状態を元の会話と照らし、担当者の氏名、期限、例外条件など重要な項目が維持されているかテストします。長い会話でも安全性に関わる指示は別の管理場所に固定し、利用者の発言履歴だけに依存させない方がよいでしょう。
4. 出力の長さと形式を仕事に合わせる
分類だけが必要なのに、毎回詳しい解説文を生成させると出力が膨らみます。「分類名」「根拠となる一文」「要確認かどうか」など、後工程が使う項目を定義します。回答案が必要な工程では、顧客に伝える本文と担当者向けの注意点を分けると、長さを抑えつつ重要な情報を残せます。
極端に短い出力を求めると、判断根拠が見えなくなります。節約の目標は最短の文章ではなく、必要十分な情報を安定して返すことです。出力形式を変えた後は、担当者が確認に要する時間も測りましょう。生成費用が少し下がっても、確認に時間がかかるなら業務全体では損かもしれません。
5. キャッシュとモデルの使い分けを検証する
共通の長い指示や資料を繰り返し利用する場合、サービスによっては入力の一部がキャッシュ対象になります。ただし、適用条件や有効期間、料金区分はモデルや提供方法に依存します。「キャッシュがあるから必ず安くなる」と考えず、実際の利用明細でキャッシュ済み入力と通常入力を確認してください。毎回変わる内容を前段に置くと効果が出にくい場合もあります。
モデル選択も同様です。単純な分類には軽いモデル、例外判断や複雑な文章には別のモデルという設計は候補になります。一方、誤分類で人の手直しが増えたり、再試行が増えたりすれば逆効果です。単価だけで比較せず、成功一件あたりの費用と処理時間を見ます。
向いている人と、削らない方がよい場面
これらの見直しは、同じ業務を何度も実行しているチームに向いています。件数が多く、入力や出力の型がある程度決まっているほど、改善前後を比較しやすくなります。逆に、月に数件しかない複雑な判断業務では、細かなトークン削減より、担当者が根拠を確認できることを優先した方がよい場合があります。
契約、法務、個人情報、金銭に関わる処理では、必要な注意書きや承認ステップを費用のために削らないでください。検索した根拠を省くと一見安く見えても、誤った回答を見逃す恐れがあります。安全対策と節約は両立を目指すものですが、対立するときは品質と責任の所在を優先します。安全性の観点はAIエージェントのリスク対策も参考にしてください。
改善前後は「一件の成果」で比較する
節約策を試すときは、同じ質問セットを使い、設定変更前と後を比べます。指標は、入力・出力の使用量、モデルと道具の呼び出し回数、成功率、担当者の修正時間、保留率です。難しい問い合わせだけ失敗することもあるため、平均値と失敗事例の両方を見ます。一度に複数の設定を変えると、何が効いたか分からなくなります。
例えば、十件のテストで入力文書だけを絞り、回答の正確さと根拠の欠落を確認します。問題なければ次に出力形式を整えます。効果が出なければ元に戻す判断も必要です。料金表は変わり得るので、使用トークンの減少率だけでなく、実際の請求区分での費用も確認します。運用後は月ごとの利用件数の変化も併せて見てください。
問い合わせ対応での具体的な見直し例
仮に、製品への問い合わせを受けて回答案を作るエージェントを考えます。現状は質問を受けるたびに製品マニュアル全体を読み込み、検索を三回行い、最後に長い説明文を出す設計だとします。最初の変更では、マニュアルを製品と機能ごとに分け、質問に関連する箇所だけを渡します。質問に製品名がない場合は、推測して検索せず、製品名を確認する返答にします。これだけで無意味な検索が減る可能性があります。
次に、回答案の形式を「要点」「参照資料」「確認が必要な条件」「顧客向け文面」に分けます。顧客向け文面には必要以上の背景説明を入れない一方、担当者用の参照資料は残します。この変更で出力が短くなっても、担当者が根拠を追えなくなれば不採用です。最後に、同じマニュアルを繰り返し使うケースでキャッシュが適用されるかを調べます。順番を分ければ、どの変更で費用と品質が動いたか説明できます。
測定表には「質問の種類」「利用した資料」「呼び出し回数」「使用量」「回答の採否」「修正理由」を残します。回答を採用できなかった場合は、単に失敗と記録するだけでなく、資料不足なのか分類ミスなのかを分けます。資料不足ならトークンを増やす前に元資料を整える方が効果的なことがあります。分類ミスなら検索範囲を狭める前に入力項目を改善します。この切り分けがないまま数値だけを追うと、費用は減っても現場の作業が増える恐れがあります。
また、月間件数が増えた結果として総費用が増えることと、一件あたりの無駄が増えることは別の問題です。総額が増えたときは、件数と一件あたりの費用を分けて見ます。品質が維持され、担当者の確認時間が短くなっているなら、トークンの使用量だけを理由に改善失敗と決める必要はありません。逆に利用件数が同じなのに呼び出し回数が増えていれば、反復や設定の変化を調べるべきです。

よくある質問
プロンプトを短くするだけで節約できますか?
短くした分だけ入力が減る可能性はありますが、エージェントでは資料、履歴、道具の結果、反復実行も影響します。大事な条件を削ると誤答や再試行が増えるため、まず使用量の内訳を確認してください。
キャッシュを使えば料金は必ず下がりますか?
必ずではありません。キャッシュ対象になる入力や条件は提供サービスによって異なり、書き込み側の費用が発生する場合もあります。導入前に公式料金と利用明細を確認し、実際の依頼パターンで比較します。
安いモデルへ変えるのが最も効果的ですか?
単価が低くても、再試行や人による修正が増えれば合計費用は上がります。分類のような限定作業から試し、成功一件あたりの費用と品質で判断するのが現実的です。
どの数値を最初に追えばよいですか?
まず一件あたりのモデル呼び出し回数、入力と出力の使用量、成功率を記録します。次に修正時間と実際の請求額を加えます。数値だけでなく、失敗した依頼の具体例も残すと改善点が見つかります。
まとめ
AIエージェントのトークンを節約するには、まず一件の処理全体を見て、無駄な再試行、重複した検索、長すぎる資料と履歴を見直します。その上で出力形式、キャッシュ、モデル選択を検証します。節約後も根拠と安全確認が維持されているかを同じ質問で確かめることが重要です。運用設計から学びたい人は仕事で使うAIの学習ロードマップを参考にできます。体系的な学び方を探す場合は、AI CONNECTの講座内容を確認する方法もあります。自分の業務に必要な範囲と費用を比べて選んでください。

