한 개발자가 GLM 5.3 Flash라는 대규모 언어모델(LLM)만을 활용해 한 달간 코딩 프로젝트를 진행한 실험 결과를 공유했습니다. 이 개발자는 Wagtail 기반 웹사이트 개발, 사용자 인터페이스(UI) 작업, 문서 작성 등 다양한 업무를 수행했으며, GLM 5.3 Flash 모델 사용에 68달러, 약 4kWh의 에너지를 소비했다고 밝혔습니다. 이는 AI를 활용한 개발 비용과 에너지 효율성에 대한 중요한 시사점을 제공합니다.
GLM 5.3 Flash는 100만 토큰 컨텍스트 창과 이미지 이해 기능을 제공하여 긴 코딩 작업과 스크린샷 기반의 시각적 개발 및 품질 검증을 가능하게 했습니다. 개발자는 이 모델이 일상적인 실무에 충분히 실용적이라고 평가하며, 앞으로도 연구개발을 제외한 작업의 50% 이상을 이 모델로 처리할 계획입니다. 다만, 실험 후반부에는 서비스 지연 문제와 다른 모델 실험의 필요성 때문에 전체 사용 토큰의 절반만 GLM 5.3 Flash에 할당하여 단일 모델 도전은 실패로 끝났습니다. 특히, 부적절한 모델 선택으로 하룻밤 만에 150달러를 소비하는 시행착오도 겪었는데, 이는 모델 선택과 에이전트 활용 패턴을 신중하게 결정하는 것이 중요함을 보여줍니다.
이번 실험은 저렴한 'Flash'급 모델만으로도 일상적인 개발 업무 대부분을 처리할 수 있음을 입증하며, AI 개발에 있어 비용과 에너지 효율성을 최적화하는 것이 중요함을 강조합니다. 개발자는 토큰 수보다는 실제 비용, 에너지 사용량, 그리고 긍정적인 성과를 기준으로 사용량을 관리해야 한다고 제언했습니다. 또한, 추론 인프라의 가용성 문제로 여러 모델을 전환해야 했던 경험은 단일 모델에만 의존하기보다 다양한 모델을 실험하고 공급자 간 경쟁 이점을 활용하는 전략이 필요함을 시사합니다. 이러한 통찰은 AI 기술을 활용하는 개발자와 기업이 자원을 효율적으로 배분하고 지속 가능한 개발 환경을 구축하는 데 중요한 지침이 될 것입니다.