Microsoft Research：清空 AI 代理的對話紀錄，研究成績平均高 66%

Microsoft Research 發現 AI 研究代理會困在早期想法

Microsoft Research 的 8 名研究員在 2026 年 10 月 5 日把論文《Fork-and-Flush: Escaping Idea Basins in Autoresearch Agents》上載至學術預印本網站 arXiv。論文研究的是自動做研究的 AI 代理（autoresearch agent），即自行提出方案、執行、取得評分再修改的程式，一次運行可以持續數天，測試數百個方案。

研究員想知道，代理運行這麼久，是一直在嘗試新方向，還是只在改良最初選中的想法。答案是後者。他們讓同一個代理在同一條程式競賽題目上獨立運行 8 次，起點和模型完全相同，最終最佳得分卻由 68.3 至 100 不等，而且再投入大量運算資源，差距仍然存在。

甚麼是「想法盆地」

研究員把各次運行提交的方案，按做法的相似程度畫成二維地圖。每次運行的方案都聚集在地圖上的一小塊區域，後來提交的方案也留在附近。論文把這些區域稱為「想法盆地」（idea basins），在上述 8 次運行中找到 5 個。

部分運行把餘下的大部分運算資源，花在得分較低的區域內反覆微調，始終沒有找到其他運行已經發現的高分做法。論文指出，即使代理定期壓縮自己的對話紀錄，這個現象依然出現。

分叉加清空對話的做法

論文提出的方法結合兩個動作。分叉（fork）是把代理複製成多個副本同時運行，一段時間後只保留得分最高的一個。清空（flush）是保留代理已寫好的工作檔案，但刪去全部對話紀錄，令副本不受先前的推論牽引。

實驗中，每次運行分叉 3 輪。開始時由 4 個代理從零起步，選出得分最高者繼續；用掉預算的 33% 和 66% 時，再各分出 4 個清空了對話的副本，每個副本獲分配約 6% 的預算。

13 項任務的結果

測試涵蓋 13 項長時間的研究和工程任務，包括多連方塊裝填、工序排程、密碼分析、由井水讀數推斷地下水污染源，以及設計小型圖像分類模型。單次運行最長 107 小時。

在相同的運算預算下，Fork-and-Flush 的得分較單一運行高 66.0%，較 4 個獨立運行取最佳高 44.4%，並在 13 項任務中的 12 項取得最高平均分。在多連方塊裝填任務的一次運行中，勝出的副本清空對話後第一次提交，在方案地圖上移動的距離是一般步距的 43 倍，其餘 3 個副本則留在原地。

研究員另外在 11 項任務上分開測試兩個動作。只清空對話得 0.55，只分叉得 0.57，兩者並用得 0.71，單一運行則為 0.45。

論文列出的限制

論文承認，前沿模型長時間運行的成本和時間很高，限制了可納入的任務數目。各個副本現時互不溝通，研究員表示日後會研究讓副本之間交流和分工。

來源

• Fork-and-Flush: Escaping Idea Basins in Autoresearch Agents（原始文件）
• Microsoft scales Maia chips to gigawatt inference; agent context-clearing boosts solution quality（gekro）
• Literature Review: Fork-and-Flush: Escaping Idea Basins in Autoresearch Agents（Moonlight）