확산형 대규모 언어모델(dLLM)의 추론(inference) 속도를 획기적으로 끌어올리는 새로운 프레임워크 'DC-Leap'이 공개되었습니다. 이 기술은 기존 병렬 디코딩(parallel decoding) 방식의 비효율성을 개선하여, 모델 재훈련 없이도 추론 속도를 최대 105배까지 가속화하는 성과를 보였습니다.
DC-Leap은 '동적 연속 검증(Dynamic Contiguous Verification)' 전략을 도입해 병렬 디코딩 과정에서 발생하는 '공동 확률 의존성 오류(JPDE)' 문제를 해결합니다. 이 오류는 기존 병렬 디코딩이 지나치게 보수적인 신뢰도 임계값을 사용하게 만들어 불필요한 노이즈 제거 반복(denoising iterations)을 유발하고 추론 속도를 저해하는 주범이었습니다. DC-Leap은 엄격한 순서의 인과적 제약(causal constraints)을 통합하여 토큰 의존성을 점진적으로 검증함으로써 JPDE를 효과적으로 무력화합니다. 또한, '초안 기반 디코딩(draft-guided decoding)' 메커니즘을 활용하여 여러 토큰을 건너뛰며 문맥을 확장하고, 양방향 어텐션(bidirectional attention)의 구조적 이점을 유지하면서도 예측을 가속화합니다. 표준 벤치마크 실험에서 DC-Leap은 긴 시퀀스 생성 작업인 MBPP에서 최대 53.19배, KV-캐시(KV-Cache)와 결합 시 최대 105.02배의 속도 향상을 달성했으며, 생성 품질은 기존과 유사한 수준을 유지했습니다.
이러한 속도 향상은 확산형 LLM의 실제 적용 가능성을 크게 높이는 중요한 진전입니다. 기존 LLM에 비해 학습이 안정적이고 다양한 생성 작업에 유연하게 적용될 수 있는 dLLM은 그동안 느린 추론 속도가 상용화의 걸림돌로 지적되어 왔습니다. DC-Leap과 같은 훈련 없는(training-free) 가속화 기술은 추가적인 컴퓨팅 자원이나 모델 재구축 없이도 dLLM의 효율성을 극대화하여, 개발자들이 더 빠르고 비용 효율적인 AI 서비스를 구축할 수 있도록 지원할 것입니다. 이는 특히 실시간 응답이 중요한 애플리케이션이나 대규모 언어모델을 활용하는 스타트업들에게 큰 이점으로 작용할 것으로 예상됩니다.