글로벌 퀀트 트레이딩 기업 제인 스트리트(Jane Street)의 연구 인턴 프로젝트가 기존의 단순한 미래 가격 예측을 넘어, 시장 이벤트와 그 발생 시점까지 생성하는 자기회귀 확산 모델(Autoregressive Diffusion Model)을 실험했습니다. 이는 주식 주문 추가, 취소, 체결 같은 이산적 행동과 가격 변동 같은 연속적 수치가 복합적으로 나타나는 시장 데이터의 특성을 반영하여, 더 풍부한 미래 시장 시나리오를 만들어내려는 시도입니다.
시장 데이터는 연속적인 가격 변화와 이산적인 주문 행동이 섞여 있어, 기존의 완전 연속형 확산 모델만으로는 특정 가격이나 시간에 확률이 집중되는 불연속성을 다루기 어려웠습니다. 연구팀은 초기 DDPM(Denoising Diffusion Probabilistic Models) 설정에서 잡음 제거 궤적이 발산하는 문제를 겪었으나, 플로 매칭(flow matching) 기법으로 전환하여 안정적인 작동을 확인했습니다. 또한, 이벤트 범주를 세분화하고 확률 질량이 집중된 지점을 부드럽게 만드는 원자 평활화(atom smoothing)를 적용해 생성 데이터의 분포와 현실성을 개선했습니다. 모델은 인과 마스킹 트랜스포머(causal masking Transformer) 인코더와 확산 헤드를 통해 다음 이벤트의 특성을 생성하고 흐름에 추가하는 방식으로 자기회귀 생성을 수행합니다.
이 연구는 단순히 가격을 점 추정하는 것을 넘어, 호가창 이벤트와 거래소 도착 시점까지 합성하여 시장의 미시 구조를 더 깊이 이해하고 예측할 수 있는 가능성을 열었습니다. 비록 아직 현실적인 시장 데이터 생성기로 쓰기에는 정확도가 부족하며, 어떤 요소를 범주형으로 예측하고 어떤 요소를 확산으로 예측할지, 그리고 특성 분포를 어떻게 표현하고 평활화할지가 핵심 설계 과제로 남아있습니다. 하지만 이는 금융 시장 분석과 트레이딩 전략 수립에 있어 기존 정량 금융 모델의 한계를 극복하고 새로운 접근 방식을 모색하는 중요한 발걸음이 될 수 있습니다. 시장의 복잡한 불연속성을 모델링하려는 시도는 금융 AI 연구의 새로운 방향을 제시합니다.