최근 "맥(Mac)을 사서 로컬에서 대규모 언어모델(LLM)을 돌리면 비용을 절약할 수 있다"는 이야기가 자주 들립니다. 하지만 실제로 얼마나 경제적인지, 언제쯤 투자 비용을 회수할 수 있는지에 대한 명확한 답은 찾기 어려웠습니다. 이러한 궁금증을 해소하기 위해 개발된 웹 도구 'Sunk Cost'가 공개되어, 로컬 LLM 장비 구매의 손익분기점을 객관적으로 분석할 수 있게 되었습니다.
'Sunk Cost'는 사용자가 보유한 기기, 사용하려는 모델, 그리고 하루에 사용하는 토큰(token) 양을 입력하면, 해당 하드웨어 구매 비용이 클라우드 API 사용료 대비 얼마나 빨리 상쇄되는지 계산해줍니다. 예를 들어, 특정 맥북 프로를 구매하여 하루 10만 토큰을 사용한다고 가정했을 때, 이 장비가 클라우드 LLM API를 사용하는 것보다 경제적으로 이득이 되는 시점, 즉 손익분기점을 알려주는 방식입니다. 사용자는 전기 요금, API 속도, 미래 API 가격 하락률 등 다양한 가정을 직접 조절하여 시뮬레이션할 수 있습니다.
이 도구는 단순히 비용 절감 측면에서 로컬 LLM 구축의 경제성을 평가하는 데 초점을 맞춥니다. 물론 데이터 프라이버시, 인터넷 연결 없이 사용 가능, 특정 모델에 대한 완전한 제어권 등 비용 외적인 이유로 로컬 LLM을 선호하는 경우도 많습니다. 하지만 'Sunk Cost'는 이러한 비경제적 요소를 제외하고 순수하게 '돈'의 관점에서 합리적인 의사결정을 돕는다는 점에서 의미가 있습니다. 특히 개인 개발자나 소규모 팀이 LLM 활용 전략을 세울 때 유용한 참고 자료가 될 것입니다.