Compound Engineering

超越單一提示互動，透過協調多個專業代理來運作。藉由委派任務（例如一個代理負責研究，另一個負責綜合），系統相較於單體模型可降低 40% 的幻覺率。此架構允許在大型管線中對個別代理效能進行模組化測試。

在多輪對話中維持持久狀態，使代理能記憶先前的上下文與工具結果。這對於需要迭代優化的複雜工作流程（如程式碼生成或資料分析）至關重要，系統必須根據先前的執行錯誤進行「自我修正」。

利用確定性程式碼執行來封裝非確定性的 LLM 輸出。透過強制代理使用結構化函數呼叫 (JSON schema)，開發者能確保 AI 輸出直接對應至 API 端點或資料庫查詢，有效彌合自然語言意圖與可靠軟體執行之間的差距。

對代理輸出實作程式化檢查。若代理生成 SQL 查詢，系統會在執行前根據 schema 驗證語法。這種「人在迴圈」或「程式碼在迴圈」的方法可防止複雜鏈中的連鎖故障，確保高保真度的結果。

鼓勵將模型邏輯與應用程式邏輯解耦。透過將模型視為可互換的組件，開發者無需重寫編排層即可將 GPT-4o 替換為 Claude 3.5 Sonnet 或本地 Llama 3 模型，並根據特定任務需求優化成本與延遲。