5万トークンの前置きを100回使うと入力費はいくらか

先に結論

条件：毎回同じ50,000トークンの前置き（指示文＋資料）を、前の呼び出しから5分以内に連続で100回送る。出力と、毎回変わる質問の部分は除く。1回目が5分のキャッシュ書き込み、2〜100回目の99回が読み出し。結果、Sonnet 5.5 は$10.00が$0.62になります。

4モデルの計算

単価は公式の料金表から。書き込みは基本入力の1.25倍、読み出しは各モデルの倍率（0.025倍・0.05倍・0.05倍・0.1倍）です。

計算の式と前提

• なし：50,000×100＝500万トークン × 基本入力単価
• あり：50,000 × 書き込み単価 ＋ 50,000×99 × 読み出し単価
• 前提1：各呼び出しが前回から5分以内。読み出すたびに寿命が延びる
• 前提2：前置きは先頭から完全に同じ。1文字でも違うと別物
• 前提3：50,000は各モデルの最小（512）を超える
• 1時間のキャッシュにすると書き込みが2倍になる。Sonnet 5.5 なら書き込みが$0.20で、合計は約$0.695

自分の数字に置き換える手順

1. 代表的な1回の前置きのトークン数を、実際の usage で測る
2. 1日の呼び出し数と、5分以内に続く割合を見積もる。間が空くと、そのたびに書き込みが発生する
3. 上の式に自分のモデルの単価を入れる（読み出し単価の面に表がある）
4. 実測の cache_read_input_tokens の割合と見積もりを比べる

読み方の注意：この計算が当てはまらない場合

この計算は、5分以内に連続で呼ぶ理想的な形です。実際のサービスでは、利用者の来方に波があり、夜間は数十分あくこともあります。5分あくたびに、次の呼び出しは書き込みになります。たとえば1時間に12回しか呼ばれない（5分に1回）なら、ぎりぎり読み出しが続きますが、1時間に3回なら毎回書き込みで、キャッシュなしより高くなります（書き込みは1.25倍のため）。その場合は、1時間のキャッシュ（書き込み2倍）か、定期的に呼んで寿命を延ばす方法を検討します。呼び出しの間隔の分布を、実際のログで確かめてから決めてください。

よくある取り違え

• 「100回呼べば必ず安くなる」と読む：間があくたびに書き込みが発生する。呼び出しの間隔が前提
• 「出力も安くなる」と読む：キャッシュが効くのは入力側だけ。出力の単価は変わらない
• 「前置きの末尾が少し変わっても効く」と読む：先頭からの完全一致が必要。途中の1文字で別物

自分の環境で確かめるには

自分のサービスで、直近の1日のログから、同じ前置きを使う呼び出しを時刻順に並べ、前の呼び出しとの間隔を出します。5分以内の割合が高ければ上の計算に近づき、5分を超える間隔が多ければ、書き込みが増えて削減が小さくなります。間隔の分布が分かれば、5分のキャッシュで足りるか、1時間のキャッシュにすべきかが、算数で決められます。

この面で確かめていないこと

• 実際の命中率（呼び出しの間隔と前置きの一致度で決まる）
• 出力費・毎回変わる入力部分の費用（この計算から除いた）

よくある質問

次に読むページ