Archon

Archon 為代理維護一個持久狀態機，使其能夠追蹤跨多輪互動的進度。透過將代理的記憶序列化為結構化格式，它防止了標準 LLM 實作中常見的上下文視窗退化問題。這確保了代理即使在跨越數千個 Token 的複雜、長期工作流程中，也能保留關鍵指令與任務歷史。

該框架對所有工具輸出使用嚴格的 JSON 架構驗證。透過強制 LLM 遵守預定義的函數簽章，Archon 消除了因格式錯誤的工具呼叫而導致的運行時錯誤。這比標準的「零樣本 (zero-shot)」提示更為穩健，因為它會在代理嘗試執行函數之前，根據架構驗證輸出。

Archon 實作了一種自我修正機制，代理在完成步驟前會根據任務需求評估自己的輸出。如果輸出未通過驗證，代理會自動觸發帶有特定錯誤上下文的重新生成週期。與非迭代代理架構相比，這在複雜的數據提取任務中減少了 60-70% 的人工干預。

系統建立在解耦的插件模型上，允許開發者在不修改核心編排邏輯的情況下，替換 LLM 後端或添加自定義工具整合。這種模組化支援快速原型設計，使開發者能夠在同一個代理工作流程中，針對特定子任務測試不同的模型（例如 GPT-4o 與 Claude 3.5 Sonnet）。

引擎針對高吞吐量代理操作進行了優化，最大限度地減少了 LLM 推理呼叫之間的開銷。透過利用非同步處理與高效的記憶體管理，Archon 降低了代理動作的「首字元延遲 (time-to-first-token)」，使其適用於對回應速度要求極高的即時應用程式。