구글 딥마인드가 AI 코딩 에이전트의 효율성을 혁신적으로 높이는 새로운 프레임워크 'Dream-RSI'(Recursive Self-Improvement)를 발표했습니다. Dream-RSI는 코딩 에이전트 자체를 변경하지 않고, 어떤 탐색을 이어가고 병렬화하며 중단할지 결정하는 '탐색 정책 코드'를 반복적으로 개선하는 방식입니다. 이는 완료된 탐색 이력을 재생 시뮬레이터(replay simulator)로 활용하여 대안 정책들을 저비용으로 평가하고, 이를 통해 전체적인 코드 개발 과정을 최적화합니다.
Dream-RSI는 '온라인 탐색 → 시뮬레이터 구축 → 오프라인 정책 개선'의 세 단계를 반복합니다. 고정된 코딩 에이전트와 평가기가 후보를 생성하고 점수를 매기면, 이 탐색 이력이 재생 시뮬레이터로 구축됩니다. 이후 LLM 기반 정책 개발 에이전트가 이 시뮬레이터를 통해 다양한 탐색 정책 코드의 성능을 평가하고, 가장 효율적인 정책으로 스스로를 개선합니다. 개선된 정책은 다시 온라인에 배포되어 새로운 탐색 이력을 수집하고 시뮬레이터 풀을 확장하는 선순환 구조입니다. 이 과정에서 기반 모델이나 평가기는 그대로 유지되고 오직 탐색 정책 코드만 변경됩니다. 특히 라쏘(Lasso) 정규화 경로 과제에서는 SimpleTES보다 최대 약 162배 적은 탐색 에이전트 호출로 더 빠른 해법을 찾아내는 등 뛰어난 효율성을 입증했습니다. 수학 최적화 및 GPU 커널 최적화에서도 기존 방식 대비 적은 생성 예산으로 경쟁력 있는 성능을 달성했습니다.
이러한 재귀적 자기 개선(RSI) 프레임워크는 AI가 스스로 학습하고 진화하는 능력을 한 단계 끌어올렸다는 점에서 큰 의미를 가집니다. 기존에는 수작업으로 고정된 탐색 전략을 사용하거나, 온라인에서 정책을 최적화하더라도 지연되고 비싼 피드백, 방대한 메타 정책 공간이라는 병목 현상에 직면했습니다. Dream-RSI는 탐색 이력을 '재생 가능한 세계'로 활용함으로써 이러한 병목을 해결하고, 한 번의 비싼 온라인 탐색으로 수천 개의 대안 정책을 빠르게 평가할 수 있게 합니다. 이는 알고리듬 설계, 개방형 수학 최적화, 시스템 설계 등 복잡한 문제 해결에 필요한 계산 자원과 시간을 획기적으로 절감하여, AI 기반 코드 개발의 확장성과 효율성을 극대화할 잠재력을 보여줍니다. 앞으로 AI가 스스로 더 나은 AI를 만드는 '자기 개선'의 시대가 더욱 가속화될 것으로 기대됩니다.