최근 공개된 연구에 따르면, 확산 모델(diffusion model) 아키텍처를 기반으로 하는 새로운 대규모 언어모델(LLM)인 '머큐리 2.5(Mercury 2.5)'가 기존의 자기회귀(autoregressive) 방식 LLM보다 최대 10배 빠른 추론(inference) 속도를 보여주며 주목받고 있습니다. 이는 텍스트 생성 AI의 효율성을 획기적으로 개선할 수 있는 잠재력을 시사하며, AI 모델의 속도와 비용 문제 해결에 새로운 방향을 제시하고 있습니다.
'머큐리 2.5'는 이미지 생성에 주로 사용되던 확산 모델의 원리를 텍스트 생성에 적용한 것이 핵심입니다. 기존 LLM은 단어를 순차적으로 생성하는 자기회귀 방식으로, 앞선 단어에 따라 다음 단어를 예측해야 하므로 병렬 처리(parallel processing)에 한계가 있었습니다. 반면, 확산 모델은 노이즈(noise)에서 점진적으로 데이터를 복원하는 방식으로, 텍스트 생성 시 여러 부분을 동시에 처리할 수 있어 속도 면에서 큰 이점을 가집니다. 이 연구는 '제미니 디퓨전(Gemini Diffusion)'과 같은 초기 확산 기반 LLM의 성능을 뛰어넘어, 실제 적용 가능한 수준의 속도 향상을 입증했습니다.
이러한 속도 개선은 LLM 활용의 폭을 크게 넓힐 수 있습니다. 실시간 대화형 AI 서비스, 온디바이스(on-device) AI, 그리고 비용 효율적인 클라우드 기반 LLM 서비스 등 다양한 분야에서 새로운 기회를 창출할 것입니다. 특히, 추론 속도는 사용자 경험과 직결되며, AI 서비스 운영 비용에도 큰 영향을 미치기 때문에, '머큐리 2.5'와 같은 기술 발전은 AI 대중화와 상용화에 중요한 전환점이 될 수 있습니다. 앞으로 확산 모델 기반 LLM이 기존 트랜스포머(Transformer) 아키텍처의 한계를 극복하고 새로운 표준으로 자리 잡을지 귀추가 주목됩니다.