대규모 언어모델(LLM) 기반의 코딩 에이전트가 소프트웨어 개발에 활용되면서 생산성 향상에 기여하고 있지만, 코드 변경 사항을 처리하는 방식에서 비효율성이 지적되어 왔습니다. 기존 에이전트들은 추론 과정에서 파일 내용을 읽고 이를 기록에 추가하는 '추가 전용(append-only)' 방식을 사용하는데, 이로 인해 파일이 수정될 때마다 에이전트가 동일한 파일을 반복해서 읽고 전체 기록에 추가하여 컨텍스트(context)가 불필요하게 길어지는 문제가 발생했습니다.
이러한 문제를 해결하기 위해 새로운 아키텍처 '코르부스(CORVUS)'가 제안되었습니다. 코르부스는 파일 읽기 동작과 그 관찰을 분리하여, 관련 파일들의 동기화된 레지스트리(synchronized registry)를 유지하고 각 추론 주기마다 최신 내용만을 주입하는 방식을 사용합니다. 이 구조적 변화는 에이전트가 코드베이스의 실제 상태와 항상 동기화되도록 하여, 불필요한 파일 복사본과 오래된 스냅샷으로 인한 컨텍스트 비대화를 제거합니다. 연구진은 SWE-POLYBENCH_VERIFIED 및 SWE-BENCH PRO 벤치마크에서 네 가지 LLM을 대상으로 코르부스를 평가했으며, 그 결과 작업당 평균 입력 토큰을 9~50% 줄이고, 최종 프롬프트 길이를 15~32% 단축했으며, 추론 주기를 최대 37% 감소시키면서도 코드 생성 성공률은 기존 방식과 유사하게 유지했습니다.
코르부스의 등장은 LLM 코딩 에이전트의 효율성을 크게 향상시킬 잠재력을 가지고 있습니다. 컨텍스트 길이 최적화는 LLM 사용 비용을 절감할 뿐만 아니라, 에이전트의 추론 속도를 높여 개발 주기를 단축할 수 있습니다. 특히, 복잡하고 빠르게 변화하는 코드베이스 환경에서 에이전트가 더 정확하고 신뢰할 수 있는 코드를 생성하도록 돕는다는 점에서 소프트웨어 개발 프로세스 전반에 긍정적인 영향을 미칠 것으로 기대됩니다. 이는 개발자들이 더 생산적으로 작업하고, LLM 기반 도구의 활용 범위를 넓히는 데 중요한 기반이 될 것입니다.