Compound Engineering

Выходит за рамки взаимодействия с одним промптом, координируя работу нескольких специализированных агентов. Делегируя задачи — например, один агент для исследования, другой для синтеза — система снижает уровень галлюцинаций на 40% по сравнению с монолитными моделями. Такая архитектура позволяет модульно тестировать производительность отдельных агентов в рамках общего конвейера.

Поддерживает постоянное состояние в многоходовых диалогах, позволяя агентам помнить предыдущий контекст и результаты работы инструментов. Это критически важно для сложных рабочих процессов, требующих итеративного уточнения, таких как генерация кода или анализ данных, где система должна «самокорректироваться» на основе предыдущих ошибок выполнения.

Оборачивает недетерминированные выводы LLM в детерминированное исполнение кода. Заставляя агентов использовать структурированные вызовы функций (JSON schema), разработчики гарантируют, что выводы AI напрямую соответствуют API-эндпоинтам или SQL-запросам, эффективно преодолевая разрыв между намерением на естественном языке и надежным выполнением ПО.

Реализует программные проверки выводов агентов. Если агент генерирует SQL-запрос, система проверяет синтаксис на соответствие схеме перед выполнением. Этот подход «человек в цикле» или «код в цикле» предотвращает каскадные сбои в сложных цепочках, обеспечивая высокую точность результатов.

Поощряет отделение логики модели от логики приложения. Рассматривая модели как взаимозаменяемые компоненты, разработчики могут менять GPT-4o на Claude 3.5 Sonnet или локальные модели Llama 3 без переписывания уровня оркестрации, оптимизируя затраты и задержки в зависимости от требований конкретной задачи.