알리바바 클라우드가 이미지와 영상 이해, 그리고 장기 에이전트 작업에 특화된 270억 파라미터 규모의 새로운 대규모 언어모델(LLM) Qwen 3.8 27B를 출시했습니다. 이 모델은 기존 Qwen 3.5 아키텍처를 기반으로 코딩, 전문 업무, 연구 등 다양한 분야에서 성능을 향상시켰으며, 특히 FP8 양자화(quantization)를 적용하여 원본 모델과 거의 같은 성능을 유지하면서도 효율적인 배포가 가능합니다.
Qwen 3.8 27B는 기본적으로 262,144토큰의 문맥 길이를 지원하며, YaRN 기술을 통해 최대 100만 토큰까지 확장할 수 있습니다. 이는 복잡한 장기 에이전트 작업이나 방대한 문서 처리에 유리합니다. 또한, '사고 모드(thinking mode)'를 기본 활성화하여 모델이 최종 답변 전에 추론 과정을 거치도록 하며, 'reasoning_effort' 매개변수로 추론 깊이를 조절하고 'preserve_thinking'으로 이전 대화의 추론 문맥을 유지할 수 있습니다. Terminal Bench 2.1, SWE-bench Pro 등 주요 벤치마크에서 이전 버전인 Qwen 3.6 27B보다 높은 점수를 기록하며 코딩 및 전문 작업 역량의 개선을 입증했습니다. 이 모델은 Hugging Face Transformers, vLLM, SGLang 등 주요 프레임워크와 호환되며, OpenAI 호환 Chat Completions API를 통해 텍스트, 이미지, 영상 처리를 지원합니다.
Qwen 3.8 27B의 출시는 대규모 언어모델이 단순 텍스트 생성에서 벗어나 이미지와 영상 등 멀티모달(multimodal) 데이터를 깊이 이해하고 복잡한 에이전트 작업을 수행하는 방향으로 진화하고 있음을 보여줍니다. 특히, FP8 양자화를 통한 효율적인 배포는 더 많은 개발자와 기업이 고성능 LLM을 활용할 수 있는 기회를 제공하며, 관리형 추론 서비스인 Qwen Cloud 출시 예정은 프로덕션 환경에서의 활용성을 더욱 높일 것으로 기대됩니다. 이러한 발전은 AI가 실제 세계의 다양한 문제를 해결하는 데 더욱 강력한 도구로 자리매김할 수 있음을 시사합니다.