Archon

Archon รักษา State machine แบบถาวรสำหรับ Agent ช่วยให้ติดตามความคืบหน้าในการโต้ตอบหลายรอบได้ โดยการแปลงหน่วยความจำของ Agent ให้อยู่ในรูปแบบที่มีโครงสร้าง ช่วยป้องกันปัญหา Context-window เสื่อมสภาพที่พบบ่อยใน LLM ทั่วไป ทำให้มั่นใจได้ว่า Agent จะจดจำคำสั่งสำคัญและประวัติงานได้แม้ในเวิร์กโฟลว์ที่ซับซ้อนและยาวนานซึ่งครอบคลุมหลายพัน Token

เฟรมเวิร์กใช้การตรวจสอบ JSON schema ที่เข้มงวดสำหรับผลลัพธ์จากเครื่องมือทั้งหมด การบังคับให้ LLM ปฏิบัติตามรูปแบบฟังก์ชันที่กำหนดไว้ล่วงหน้าช่วยขจัดข้อผิดพลาดขณะรันไทม์ที่เกิดจากการเรียกใช้เครื่องมือที่ไม่ถูกต้อง ซึ่งมีความเสถียรกว่าการทำ 'zero-shot' prompting ทั่วไป เนื่องจากมีการตรวจสอบผลลัพธ์เทียบกับ Schema ก่อนที่ Agent จะพยายามรันฟังก์ชันนั้น

Archon ใช้กลไกการแก้ไขตัวเองที่ Agent จะประเมินผลลัพธ์ของตนเองเทียบกับข้อกำหนดของงานก่อนสรุปขั้นตอน หากผลลัพธ์ไม่ผ่านการตรวจสอบ Agent จะเริ่มวงจรการสร้างใหม่โดยอัตโนมัติพร้อมบริบทข้อผิดพลาดที่เฉพาะเจาะจง ซึ่งช่วยลดการแทรกแซงจากมนุษย์ได้ถึง 60-70% ในงานดึงข้อมูลที่ซับซ้อนเมื่อเทียบกับสถาปัตยกรรม Agent แบบไม่วนซ้ำ

ระบบถูกสร้างขึ้นบนโมเดลปลั๊กอินที่แยกส่วน ช่วยให้นักพัฒนาสามารถเปลี่ยน LLM backend หรือเพิ่มการเชื่อมต่อเครื่องมือแบบกำหนดเองได้โดยไม่ต้องแก้ไขตรรกะหลัก ความยืดหยุ่นนี้รองรับการทำ Prototyping ที่รวดเร็ว ช่วยให้นักพัฒนาทดสอบโมเดลต่างๆ (เช่น GPT-4o เทียบกับ Claude 3.5 Sonnet) สำหรับงานย่อยเฉพาะภายในเวิร์กโฟลว์เดียวกันได้

ปรับแต่งมาเพื่อการทำงานของ Agent ที่มีปริมาณงานสูง เอนจินนี้ช่วยลด Overhead ระหว่างการเรียกใช้ LLM inference โดยใช้การประมวลผลแบบ Asynchronous และการจัดการหน่วยความจำที่มีประสิทธิภาพ Archon ช่วยลด 'time-to-first-token' สำหรับการกระทำของ Agent ทำให้เหมาะสำหรับแอปพลิเคชันแบบเรียลไทม์ที่ความรวดเร็วเป็นสิ่งสำคัญต่อประสบการณ์ผู้ใช้