일론 머스크(Elon Musk)가 스페이스X(SpaceX)의 인공지능(AI) 챗봇인 그록 봇(Grok Bot)의 사용자당 주간 사용량 제한을 강화했습니다. 머스크는 X(구 트위터)를 통해 그록 봇 운영 비용이 수익 대비 '지속 불가능하게 높다'고 밝히며, 일부 사용자들이 할로윈 주말 동안 갑자기 사용량이 소진되는 현상을 겪은 것이 단순한 오류가 아님을 확인했습니다. 이는 AI 서비스의 폭발적인 성장 이면에 숨겨진 막대한 운영 비용 문제를 단적으로 보여줍니다.
그록 봇은 최근 스페이스X의 성공 사례로 주목받았습니다. 지난달 스페이스X가 제출한 서류에 따르면, AI 부문이 회사 수입의 52%를 차지하며, '슈퍼 인텔리전스(Super Intelligence)'로 재명명된 AI 사업부는 4억 3,100만 달러의 이례적인 수익을 기록했습니다. 이는 AI 산업에서 드문 흑자 전환 사례로, 커서(Cursor) 인수 관련 12억 달러의 일회성 비용이 없었다면 수익은 더 높았을 것입니다. 머스크는 그록 봇을 자신이 경험한 제품 중 '가장 빠른 성장'을 보였다고 언급하며 자부심을 드러내기도 했습니다.
이번 사용량 제한 조치는 AI 서비스가 직면한 근본적인 과제를 시사합니다. AI 모델, 특히 대규모 언어모델(LLM) 기반 서비스는 추론(inference) 과정에서 막대한 컴퓨팅 자원을 소모하며, 이는 곧 높은 운영 비용으로 이어집니다. 아무리 빠르게 성장하고 수익을 창출하는 서비스라도, 비용 구조를 효율적으로 관리하지 못하면 지속 가능성에 문제가 생길 수 있음을 보여준 사례입니다. 이는 앞으로 AI 기술을 활용하는 모든 기업이 고민해야 할 중요한 지점이 될 것입니다.