인공지능(AI) 개발의 오랜 역사 속에서 모든 단계는 인간의 주도로 이루어졌습니다. 하지만 최근 앤트로픽(Anthropic)은 AI 시스템이 스스로 AI 개발 과정에 참여하며 그 속도를 가속화하는 '재귀적 자기 개선(recursive self-improvement)'의 초기 단계를 보여주고 있다고 밝혔습니다. 이는 AI가 스스로 후속 시스템을 설계하고 개발하는 궁극적인 목표를 향한 진전으로, 앤트로픽 내부 데이터에 따르면 이미 AI가 AI 개발 속도를 크게 높이고 있습니다.
앤트로픽의 보고서에 따르면, AI는 이미 코드 작성과 연구 실험 실행 등 개발의 상당 부분을 담당하고 있습니다. 예를 들어, 앤트로픽 엔지니어들은 2021~2025년 대비 현재 분기당 8배 더 많은 코드를 배포하고 있습니다. 외부 벤치마크에서도 AI 모델의 발전 속도는 놀랍습니다. AI가 독립적으로 완료할 수 있는 작업의 길이는 약 4개월마다 두 배로 증가하고 있으며, 소프트웨어 엔지니어링 벤치마크인 SWE-bench와 연구 재현성 테스트인 CORE-Bench에서도 모델 성능이 빠르게 향상되어 불과 2년 만에 거의 100%에 도달했습니다. 클로드(Claude)는 이제 불완전하게 정의된 문제도 해결하고, 잘 정의된 실험을 인간보다 더 잘 수행할 수 있는 수준에 이르렀습니다.
이러한 재귀적 자기 개선의 진전은 기술 역사상 중대한 전환점이 될 수 있습니다. 과학, 헬스케어 등 다양한 분야에서 엄청난 발전을 가져올 잠재력이 있지만, 동시에 인간이 AI 시스템에 대한 통제력을 잃을 위험도 커집니다. AI가 스스로 후속 모델을 구축할 수 있게 되면, 시스템의 보안, 모니터링, 행동 형성 방식이 훨씬 더 중요해질 것입니다. 앤트로픽은 아직 완전한 재귀적 자기 개선 단계에 도달하지는 않았지만, 이러한 추세가 예상보다 빠르게 다가올 수 있다고 경고하며, 이에 대한 사회적 대비가 필요하다고 강조했습니다.