최근 발표된 연구 'Halo'는 인공지능(AI) 예측 모델의 정확도를 획기적으로 높일 수 있는 새로운 접근 방식을 제시했습니다. 일반적으로 예측 모델은 단일 값(위치 매개변수)만을 추정하지만, 헤테로스케다스틱(heteroscedastic) 예측은 예측값과 함께 불확실성(척도 매개변수)까지 함께 추정합니다. 이 연구는 이러한 헤테로스케다스틱 추정이 단순히 불확실성 정량화를 넘어, 실제 예측값 자체의 정확도까지 향상시킨다는 점을 시계열 데이터에서 처음으로 명확하게 보여주었습니다.
'Halo'는 기존 딥러닝 예측 모델의 아키텍처를 재활용하여 간단하게 적용할 수 있습니다. 기존 모델에 예측 분포의 척도(scale)를 위한 두 번째 출력부를 추가하고, 이에 맞는 음의 로그 우도(negative log likelihood) 손실 함수로 훈련하는 방식입니다. 연구진은 트랜스포머(transformer), 그래프 네트워크(graph network)와 변분 오토인코더(variational autoencoder) 결합 모델, 단일 계층 컨볼루션 네트워크(convolutional network) 등 세 가지 최신 모델에 이 기법을 적용했습니다. 그 결과, 표준 전력 가격 예측 벤치마크의 다섯 개 시장에서 30가지 모델-시장-지표 비교 중 28가지에서 평균 제곱 오차(MSE)와 평균 절대 오차(MAE)가 개선되었습니다. 특히 평균 MSE는 2.6%에서 최대 16.5%, 평균 MAE는 1.7%에서 최대 11.0%까지 감소하는 놀라운 성능 향상을 보였습니다.
이 연구의 핵심 발견은 두 가지입니다. 첫째, 척도 추정치가 별도의 투영 헤드(projection head)에서 나오든 완전히 병렬적인 네트워크에서 나오든, 네트워크가 척도를 추정하는지 여부가 훨씬 더 중요하다는 점입니다. 둘째, 기존 예측 모델의 하이퍼파라미터(hyperparameter)를 재조정할 필요 없이도 성능 향상이 유지된다는 것입니다. 이는 'Halo' 기법이 기존 모델에 쉽게 통합될 수 있으며, 추가적인 복잡성 없이도 예측 정확도를 높일 수 있음을 의미합니다. 이러한 결과는 에너지, 금융, 물류 등 시계열 예측이 중요한 다양한 산업 분야에서 AI 모델의 신뢰성과 효율성을 크게 개선할 잠재력을 가지고 있습니다.