AI 에이전트가 복잡한 소프트웨어 개발 작업을 수행할 때, 여러 단계를 거치며 발생하는 비효율성과 관리의 어려움을 해결하기 위한 새로운 프레임워크 '밀레이스(Millrace)'가 등장했습니다. 밀레이스는 에이전트 기반의 장기 실행 워크플로우를 위한 로컬 런타임으로, 특히 순차적 오케스트레이션과 런타임이 프로젝트 상태를 소유하는 두 가지 핵심 아이디어를 기반으로 합니다. 이는 에이전트의 자율성, 신뢰성, 효율성을 극대화하는 데 초점을 맞춥니다.
밀레이스는 워크플로우 그래프, 실행자 바인딩, 단계 계약, 복구 규칙, 승인 및 종료 동작 등을 하나의 검사 가능한 계획으로 컴파일합니다. 작은 데몬이 이 계획에 따라 코딩 에이전트를 디스패치하고, 런타임이 소유한 규칙을 통해 결과를 적용하며, 나중에 작업을 재개, 복구, 검사 또는 종료하는 데 필요한 증거를 지속적으로 저장합니다. 기존의 챗 UI나 코딩 하네스, 그래프 라이브러리와 달리, 밀레이스는 에이전트 작업의 실행 허용 여부, 상태의 지속성, 복구 방식, 그리고 작업의 정직한 종료 시점을 결정하는 로컬 런타임 계층 역할을 합니다. 이를 통해 대규모 AI 지원 소프트웨어 작업을 명시적인 런타임 상태로 전환하여, 태스크 입력부터 계획 컴파일, 단계 실행, 복구, 종료 및 검사까지 전 과정을 체계적으로 관리할 수 있습니다.
이러한 접근 방식은 AI 에이전트가 복잡한 소프트웨어 프로젝트를 수행할 때 발생할 수 있는 예측 불가능성과 오류를 줄이는 데 크게 기여할 수 있습니다. 특히, 에이전트가 '완료되었다'고 말하는 것만으로는 작업이 종료되지 않고, 런타임이 모든 관련 작업이 완료되었음을 확인해야만 종료되는 '아비터 종료(Arbiter closure)' 방식은 작업의 신뢰성을 높입니다. 밀레이스는 계획(Planning), 실행(Execution), 학습(Learning)의 세 가지 작업 플레인을 통해 스펙을 실행 가능한 작업으로 전환하고, 작업을 구축, 확인, 수정하며, 런타임 증거를 검토하고 기술을 개선하는 과정을 지원합니다. 이는 개발자들이 AI 에이전트를 활용하여 보다 안정적이고 효율적인 소프트웨어 개발 프로세스를 구축할 수 있는 기반을 제공하며, 장기적으로 AI 기반 개발 환경의 신뢰도를 높이는 데 중요한 역할을 할 것으로 기대됩니다.