텐센트(Tencent)가 770B(활성 49B) 매개변수와 100만 토큰이 넘는 컨텍스트 창을 지원하는 차세대 대규모 언어모델(LLM) 'Hy4 프리뷰'를 오픈소스로 공개했습니다. 이는 코딩, 문서 작업, 게임 개발, 과학 연구 등 실제 생산성 작업에 초점을 맞춘 모델로, 텐센트 내부 블라인드 평가에서 GLM-5.3과 Kimi K3를 소폭 앞서는 성능을 보였습니다.
Hy4는 모델 크기, 컨텍스트 길이, 훈련 데이터 양을 대폭 늘려 전반적인 성능을 향상했습니다. 특히 훈련 방법, 데이터 전략, 평가 체계, 저수준 연산자 개선안을 스스로 제안하고 실험하며 결과를 다음 탐색에 반영하는 '초기 자기 개선 루프'에 참여한다는 점이 특징입니다. 텐센트는 이를 통해 자체 추론 시스템의 병목을 분석하고 연산자 융합 및 통신을 최적화하여 기준 대비 종단 간 처리량을 31.8% 향상했다고 밝혔습니다. WorkBuddy, CodeBuddy 등 텐센트 제품과 TokenHub, OpenRouter API를 통해 이용 가능하며, 100만 토큰당 입력 0.834달러, 출력 2.501달러의 가격 정책을 제시했습니다.
이번 Hy4의 출시는 대규모 언어모델이 단순한 대화형 에이전트를 넘어 실제 산업 및 생산성 도구로 진화하고 있음을 보여줍니다. 특히 스스로 학습하고 개선하는 '자기 개선 루프'는 LLM 개발의 새로운 방향성을 제시하며, 향후 모델의 성능 향상 속도를 가속화할 잠재력을 가집니다. 텐센트가 다양한 자사 제품군에 Hy4를 통합하고 오픈소스 및 API 형태로 외부에 공개함으로써, 개발자들은 긴 컨텍스트와 향상된 추론 능력을 활용해 복잡한 소프트웨어 엔지니어링, 금융 분석, 게임 프로토타입 제작 등 고부가가치 작업을 효율적으로 수행할 수 있을 것으로 기대됩니다.