Adaptive Output Token Escalation Design

Request (max_tokens = 8K)
│
▼
┌─────────────────────────┐
│  応答がトランケーション？  │──── No ──▶ Done ✓
│  (MAX_TOKENS)            │
└───────────┬──────────────┘
            │ Yes
            ▼
┌──────────────────────────────────────────────────┐
│  レイヤ 1: モデル出力制限までエスカレーション        │
│  ┌────────────────────────────────────────────┐  │
│  │ 部分応答を履歴から取り出す                  │  │
│  │ RETRY (isContinuation: false → UI リセット) │  │
│  │ max(64K, モデル出力制限) で再送信           │  │
│  └────────────────────────────────────────────┘  │
└───────────┬──────────────────────────────────────┘
            │
            ▼
┌─────────────────────────┐
│  まだトランケーション？   │──── No ──▶ Done ✓
│  (MAX_TOKENS)            │
└───────────┬──────────────┘
            │ Yes
            ▼
┌──────────────────────────────────────────────────┐
│  レイヤ 2: マルチターンリカバリー（最大 3 回）      │
│  ┌────────────────────────────────────────────┐  │
│  │ 部分応答を履歴に保持                        │  │
│  │ ユーザーメッセージを追加: "Resume directly..."│  │
│  │ RETRY (isContinuation: true → UI バッファ維持)│  │
│  │ 更新済み履歴で再送信                         │  │
│  │ モデルは中断した場所から続行                  │  │
│  └──────────────┬─────────────────────────────┘  │
│                 │                                 │
│          ┌──────┴──────┐                          │
│          │ 成功？       │── Yes ──▶ Done ✓         │
│          └──────┬──────┘                          │
│                 │ No (まだトランケーション)         │
│                 ▼                                 │
│          attempt < 3? ── Yes ──▶ ループ戻る ↑      │
└───────────┬──────────────────────────────────────┘
            │ No (使い果たした)
            ▼
┌──────────────────────────────────────────────────┐
│  レイヤ 3: ツールスケジューラへのフォールバック      │
│  ┌────────────────────────────────────────────┐  │
│  │ トランケーションされた Edit/Write ツール呼出 │  │
│  │ を拒否                                      │  │
│  │ ガイダンスを返す: "You MUST split into      │  │
│  │ smaller parts — write skeleton first,      │  │
│  │ then edit incrementally."                  │  │
│  └────────────────────────────────────────────┘  │
└──────────────────────────────────────────────────┘

1. ストリームが正常に完了 (lastError === null)
2. 最後のチャンクの finishReason が MAX_TOKENS
3. ガードチェックを通過:
   - maxTokensEscalated === false (無限エスカレーション防止)
   - hasUserMaxTokensOverride === false (ユーザーの意図を尊重)
4. エスカレーション後の制限を計算: max(ESCALATED_MAX_TOKENS, tokenLimit(model, 'output'))
5. 部分的なモデル応答をチャット履歴から取り出す
6. RETRY イベント (isContinuation: false) を生成 → UI は部分出力を破棄しバッファをリセット
7. 同じリクエストを maxOutputTokens: escalatedLimit で再送信

1. 部分的なモデル応答は既に履歴に存在 (processStreamResponse でプッシュ済み)
2. リカバリーユーザーメッセージをプッシュ: OUTPUT_RECOVERY_MESSAGE
3. RETRY イベント (isContinuation: true) を生成 → UI はテキストバッファを継続用に保持
4. 更新済み履歴で再送信 (モデルは自身の部分出力＋リカバリー指示を参照)
5. まだトランケーションされていて試行回数が残っている場合、ステップ 1 にループバック
6. リカバリー試行が例外をスローした場合（空応答、ネットワークエラー）:
   - 履歴から宙ぶらりんのリカバリーメッセージを取り出す
   - リカバリーループを抜ける