최근 고성능 AI 코딩 모델인 'Fable'의 등장과 함께, 개발자들이 모든 코딩 작업을 최상위 모델에만 의존하는 대신, 작업별로 다양한 AI 모델을 배치하는 '모델 분업' 전략으로 전환하고 있습니다. Fable은 뛰어난 성능을 자랑하지만, 높은 비용 때문에 개발자들은 이제 어떤 작업을 어떤 모델에 맡길지 신중하게 따져야 하는 상황에 직면했습니다.
과거에는 무어의 법칙 덕분에 CPU 성능이 꾸준히 향상되어 코드 최적화에 대한 압박이 덜했습니다. 그러나 2000년대 중반 이후 단일 스레드 성능 향상이 둔화되면서, 개발자들은 병렬화, 아키텍처, 메모리 지역성 등을 직접 고려하며 효율성을 높여야 했습니다. 이제 AI 코딩에서도 비슷한 변화가 나타나고 있습니다. Fable과 같은 주에 출시된 GLM 5.2는 Fable의 약 1/9, Opus 5의 약 1/5 수준의 비용으로 제공되며, 반복적인 코딩 작업에는 충분한 성능을 보여줍니다. 따라서 Fable로 설계를 검토하고 구체화한 뒤, 실제 코딩은 GLM과 같은 저렴한 모델에 넘기는 방식이 효율적인 대안으로 떠오르고 있습니다.
이러한 모델 분업은 단순히 비용 절감뿐만 아니라, 더 나은 '하네스'(Harness) 즉, AI 모델과의 상호작용 및 컨텍스트 관리 도구의 발전을 촉진합니다. 좋은 컨텍스트를 제공하면 상대적으로 약한 모델도 충분히 우수한 결과를 낼 수 있기 때문입니다. 또한, Fable의 접근 통제, 동적 성능 저하, 데이터 보관 의무와 같은 정책적 요인들도 기업과 국가가 AI 실행 추적 및 토큰 공급처를 신중하게 검토하게 만들며, 모델별 작업 분배를 더욱 고착화하는 요인이 됩니다. 이는 AI 모델 선택의 기준이 단순히 지능을 넘어 비용 효율성, 보안, 통제 정책 등 다양한 측면으로 확장되고 있음을 시사합니다.
결과적으로 AI 코딩 분야는 '공짜 점심'의 시대가 끝나고, 개발자들이 직접 AI 모델 활용 전략을 최적화해야 하는 시대로 접어들었습니다. 이는 AI 에이전트 실행 도구의 중요성을 부각시키며, 궁극적으로는 가장 똑똑한 모델이 계획과 조정 역할을 하고, 저렴한 하위 에이전트들이 실제 반복 작업을 수행하는 조합이 표준이 될 가능성이 높습니다. 이러한 변화는 소프트웨어 개발의 전반적인 라이프사이클(SDLC)과 프로젝트 관리, 나아가 소프트웨어 외 다른 영역으로도 확산될 것으로 예상됩니다.