인공지능(AI)의 자기 개선(RSI: Recursive Self-Improvement) 개념은 1965년 I. J. Good이 정의한 '초지능 기계'에서 시작해, AI가 스스로의 지능을 개선하는 재귀적 피드백 루프를 의미합니다. 현대 AI에서 RSI는 단순히 모델의 가중치를 직접 수정하는 것을 넘어, AI가 작업을 수행하는 방식과 환경을 조율하는 '하네스(harness)' 시스템 자체를 개선하는 방향으로 진화하고 있습니다. 이는 AI의 성능 향상을 위한 단기적이고 실용적인 접근 방식으로 주목받고 있습니다.
하네스는 대규모 언어모델(LLM)을 둘러싸고 실행을 조율하는 소프트웨어 시스템으로, 단순한 프롬프트(prompt)를 넘어 워크플로 자동화, 파일 기반 영속 메모리, 병렬 서브에이전트, 권한 제어, 평가 및 상태 관리 등을 포괄합니다. 예를 들어, ACE(Agentic Context Engineering)는 맥락을 불릿형 플레이북으로 관리하며, MCE(Meta Context Engineering)는 맥락 관리 메커니즘 자체를 진화시킵니다. Meta-Harness는 하네스 코드 자체를 최적화하여 AI 에이전트가 더 나은 결과를 도출하도록 돕습니다. 또한, ADAS(Automated Design of Agentic Systems)와 AFlow는 에이전트 설계를 최적화 문제로 정의하고, 워크플로를 반복적으로 개선하는 자동화된 연구 파이프라인을 제시합니다. 이러한 접근 방식은 코딩 에이전트의 성능을 크게 향상시키는 등 실제적인 성과를 보여주고 있습니다.
이러한 하네스 엔지니어링의 발전은 AI 시스템의 효율성과 확장성을 극대화하는 중요한 의미를 가집니다. 모델 자체의 지능을 높이는 것만큼이나, 모델이 외부 세계와 상호작용하고 문제를 해결하는 방식, 즉 '하네스'를 최적화하는 것이 강력한 AI를 만드는 핵심이 되고 있습니다. 이는 AI 개발자들이 단순히 모델 훈련에만 집중하는 것이 아니라, 모델을 둘러싼 전체 시스템 설계와 개선에 더 많은 노력을 기울여야 함을 시사합니다. 궁극적으로는 AI가 스스로 연구하고 개선하는 자동화된 연구 시스템을 가능하게 하여, 인간의 개입 없이도 AI가 지속적으로 발전하는 미래를 앞당길 수 있을 것입니다.