AI 스타트업 스텝펀(StepFun)이 에이전트 작업에 최적화된 새로운 대규모 언어모델(LLM) 'Step 5 Preview'를 공개하며, OpenRouter 플랫폼을 통해 접근 가능하게 했습니다. 이 모델은 100만 토큰이라는 방대한 컨텍스트 창을 지원하며, 텍스트뿐만 아니라 이미지와 영상 입력까지 처리할 수 있는 멀티모달(multimodal) 기능을 갖췄습니다. 특히 소프트웨어 엔지니어링과 금융 분야의 복잡한 작업을 수행하도록 설계되어, AI 에이전트의 활용 범위를 넓힐 것으로 기대됩니다.
Step 5 Preview는 희소 전문가 혼합(MoE: Mixture of Experts) 구조를 채택하여, 전체 6,000억 개의 파라미터 중 270억 개만 활성화하여 효율성을 높였습니다. 이는 대규모 모델의 성능을 유지하면서도 추론 비용을 절감할 수 있는 핵심 기술입니다. 모델은 대규모 코드베이스와 문서를 분석하고, 도구(tool)를 활용하여 여러 단계에 걸쳐 결과물을 정교하게 개선하는 데 강점을 보입니다. 또한, 함수 호출(function calling)과 JSON 스키마 기반의 구조화된 출력(structured output)을 지원하여 개발자들이 AI 에이전트를 다양한 애플리케이션에 통합하기 용이합니다. OpenRouter를 통한 사용 요금은 100만 토큰당 입력 1달러, 출력 2.70달러이며, 96% 이상의 높은 캐시 적중률 덕분에 실제 가중평균 결제 가격은 입력 100만 토큰당 0.08589달러로 크게 낮아집니다.
이 모델의 출시는 복잡한 전문 작업을 자동화하려는 AI 에이전트 개발자들에게 중요한 의미를 가집니다. 특히 긴 컨텍스트 창과 멀티모달 입력 처리 능력은 기존 LLM의 한계를 뛰어넘어, 방대한 양의 정보를 이해하고 처리해야 하는 소프트웨어 개발이나 금융 분석 같은 분야에서 혁신적인 변화를 가져올 수 있습니다. 높은 캐시 적중률과 MoE 구조를 통한 비용 효율성은 개발자들이 더 적은 비용으로 고성능 AI 에이전트를 구축하고 운영할 수 있게 하여, AI 기술의 상업적 활용을 가속화할 잠재력을 지니고 있습니다. 이는 AI 에이전트가 단순한 정보 검색을 넘어 실제 문제 해결의 핵심 도구로 자리매김하는 데 기여할 것입니다.