문샷 AI(Moonshot AI)가 자사의 코딩 특화 대규모 언어모델(LLM)인 Kimi K3의 새로운 버전, Kimi K3-256k를 선보였습니다. 이 모델은 기존 Kimi K3가 제공하던 1M(100만) 토큰 컨텍스트의 결과 품질을 256k(25만 6천) 토큰 컨텍스트에서 그대로 유지하면서, 할당량 소모는 약 절반 수준으로 줄인 것이 특징입니다. 이는 일상적인 코딩 작업에서 개발자들이 더 효율적으로 AI를 활용할 수 있도록 돕기 위함입니다.
Kimi Code는 K3와 K2.7 Code를 기반으로 총 네 가지 모델 ID를 제공합니다. 플래그십 모델인 K3는 2.8조(T) 파라미터와 최대 1M 컨텍스트를 지원하며, K3-256k는 K3의 256k 컨텍스트 버전으로 비용 효율성에 초점을 맞췄습니다. 이 외에도 코드 완성 및 일반 개발 작업에 적합한 Kimi K2.7 Code 기반의 'kimi-for-coding'과 약 5~6배 빠른 출력을 제공하는 'kimi-for-coding-highspeed'가 있습니다. K3-256k는 주로 질의응답, 코드 완성, 기능 개발, 단일 파일 편집 등 짧은 컨텍스트가 필요한 작업에 유용하며, 영상 입력은 지원하지 않습니다.
이번 Kimi K3-256k 출시는 대규모 언어모델이 빠르게 범용 상품화되고 있는 현 시점에서 주목할 만합니다. 컨텍스트 길이에 따라 비용 효율적인 모델을 제공함으로써, 사용자들은 필요한 작업에 맞춰 최적의 모델을 선택하고 비용을 절감할 수 있게 됩니다. 이는 AI 모델의 활용성을 높이고, 개발자들이 더욱 폭넓은 범위에서 AI 코딩 도구를 도입하는 데 긍정적인 영향을 미칠 것으로 예상됩니다. 또한, OpenAI와 같은 선두 기업들의 기술 해자가 점차 줄어들고 있다는 신호로도 해석될 수 있습니다.