從一次真實調試說起
上周調試一個多步 Agent 時，發現它在第三步突然回答“我不記得前面說過什麼了”。 檢查日誌，每次調用 LLM 都傳入了完整的對話歷史——但 token 限制導致模型只讀最後幾輪。 更糟的是，中間的關鍵推理步驟被截斷，Agent 只能隨機猜測。
這個場景就是 Reasoning Summaries 要解決的核心問題：當完整歷史無法全部塞進上下文視窗時，如何保留最具價值的推理資訊。
Reasoning Summaries 到底是什麼
Reasoning Summaries 不是簡單的對話摘要。 它是一組對 Agent 內部推理過程的結構化壓縮結果，通常包含：
- 推理鏈關鍵節點（例如：中間假設、驗證結果、分支決策）
- 每個節點的置信度或優先順序標記
- 已消耗的外部工具呼叫結果（如搜尋返回、代碼執行輸出）
與普通摘要不同，它注重保留“logical progression”（邏輯推進），而不是資訊完整性。 例如，一個金融 Agent 在分析財報時，需要記住「在第一步發現現金流為負，因此後續估值模型需要調整折現率」，而不是“財報里提到現金流為負”。 前者是推理，後者是事實。
它在 Agent 工作流裡到底解決什麼問題
Agent 工作流往往是循環結構：觀察狀態 -> 規劃動作 -> 執行動作 -> 更新狀態。 在這四個階段中，Reasoning Summaries 主要作用於“更新狀態”環節——將當前推理結果壓縮后併入記憶體，供下一輪使用。
具體而言，它解決了三個實際工程問題：
- 上下文視窗溢出：多輪交互后，歷史很容易超過模型的最大 token 限制。 Summaries 將幾輪對話壓縮成一段精鍊的推理摘要，保留最關鍵的決策依據。
- 推理斷裂：模型在長對話中容易丟失早期結論。 通過顯式維護推理鏈摘要，即使上下文視窗被刷新，Agent也能基於摘要繼續推理。
- 調試困難：當 Agent 行為異常時，查看完整日誌很痛苦。 Summaries 提供一條清晰的主推理路徑，快速定位錯誤分支。
最容易失敗的地方
在我參與的專案中，最常見的失敗案例是過度壓縮。
團隊用「最大壓縮比」策略，把每一輪輸出都壓縮成一句話。 結果 Agent 很快就丟失了任務的原始目標——它在第一輪決定要查資料庫 A，第二輪發現數據不足轉向資料庫 B，第三輪卻忘記了自己為什麼放棄 A，又回去查了一遍。
另一個高頻錯誤是壓縮時機錯誤。 有些人選擇在每次 LLM 調用后立即壓縮，結果壓縮本身消耗了大量推理預算，而且頻繁的壓縮操作打斷了主邏輯。 更合理的做法是：只在上下文即將達到 70% 容量時才觸發壓縮，或者每次關鍵轉捩點（比如工具調用后）壓縮一次。
還有一個容易忽略的點：壓縮后的摘要可能丟失否定資訊或條件約束。 例如，原推理是「如果銷量增加則增產，否則維持庫存」 摘要可能只留下「增產」 ，導致 Agent 在不滿足條件時也執行了錯誤動作。 必須確保壓縮過程保留條件結構。
現在就要落地，第一步怎麼做
第一步不是寫代碼，而是定義你的 Agent 需要記住什麼。
給當前負責的 Agent 構建一個推理記憶範本。 例如，一個代碼審查 Agent 可能需要：
- 當前審查的代碼檔與行號範圍
- 已發現的 Bug 及其嚴重性
- 尚未檢查的模組清單
- 已有結論（例如：發現記憶體洩漏，需要調整緩存策略）
第二步，選擇合適的實現方式。 目前主流方案包括：
- 使用 LLM 生成自然語言摘要：簡單，但摘要質量依賴 prompt 設計，且可能丟失細節。 適合任務較簡單的 Agent。
- 結構化記錄：用字典或數據類存儲決策樹，每次更新節點值。 可精確壓縮，但需要預定義schema。 適合邏輯固定的任務。
- 混合方案：同時維護一個結構化關鍵字段和一個自然語言摘要，後者用於 LLM 理解上下文，前者用於精確查找。
第三步，集成到 Agent 循環中。 在每一步更新狀態后，檢查是否達到壓縮閾值，若是則調用摘要函數，用摘要替換部分歷史，並將摘要標記為“壓縮內容”以備調試。
失敗時的備用方案
如果 Reasoning Summaries 效果不佳（比如摘要后 Agent 推理質量明顯下降），可以回退到兩種方案：
- 滑動視窗策略：不和上下文搏鬥，使用固定大小的視窗最近 N 輪完整記錄，放棄早期歷史。 適合歷史關聯性不強的任務，比如單次問答。
- 檢索增強記憶：將每一輪推理編碼為向量存入向量資料庫，Agent 每次推理前檢索 Top-K 相關歷史。 適合長週期任務，比如持續多天的項目評審。
當然，這兩個方案只是保底。 如果團隊資源允許，可以嘗試微調一個專門的摘要模型，但那是另一條長線了。
總結
Reasoning Summaries 是 Agent 工程裡不可迴避的元件。 做得對，可以大幅提升長鏈推理的穩定性; 做得不對，反而引入更隱蔽的bug。 關鍵不在於追求“全而美”的摘要，而在於策略性地保留推理線索。
暫無評論，快來發表你的看法吧