Compound Engineering

超越单一提示词交互，通过协调多个专业智能体来完成任务。通过委派任务（例如一个智能体负责研究，另一个负责综合），该系统相比单一模型可降低 40% 的幻觉率。此架构允许在更大的流水线中对单个智能体性能进行模块化测试。

在多轮对话中保持持久状态，使智能体能够记忆之前的上下文和工具结果。这对于需要迭代优化的复杂工作流（如代码生成或数据分析）至关重要，系统必须根据之前的执行错误进行“自我纠正”。

利用确定性代码执行封装非确定性的 LLM 输出。通过强制智能体使用结构化函数调用 (JSON schema)，开发者确保 AI 输出能直接映射到 API 端点或数据库查询，有效弥合自然语言意图与可靠软件执行之间的鸿沟。

对智能体输出实施程序化检查。如果智能体生成 SQL 查询，系统会在执行前根据模式验证语法。这种“人在回路”或“代码在回路”的方法可防止复杂链条中的级联故障，确保高保真结果。

鼓励模型逻辑与应用逻辑解耦。通过将模型视为可互换组件，开发者无需重写编排层即可将 GPT-4o 替换为 Claude 3.5 Sonnet 或本地 Llama 3 模型，从而根据特定任务需求优化成本和延迟。