최근 조지아 공과대학교(Georgia Institute of Technology)의 연구에 따르면, GPT-4 터보(GPT-4 Turbo), 클로드 3 오푸스(Claude 3 Opus), 제미니 1.5 프로(Gemini 1.5 Pro), 라마 3 70B(Llama 3 70B) 등 주요 대규모 언어모델(LLM)들이 주식 시장의 기술적 분석에서 유의미한 성과를 보였습니다. 이들 모델은 캔들스틱 패턴 인식, 매수/매도/보유 신호 생성, 신호 품질 백테스팅, 그리고 재무 보고서 이해 등 네 가지 핵심 과제에서 평가되었으며, 일부 모델은 S&P 500 벤치마크 수익률을 뛰어넘는 결과를 보여주며 AI 트레이딩 시스템의 잠재력을 입증했습니다.
연구팀은 OHLCV(시가, 고가, 저가, 종가, 거래량) 데이터를 활용해 캔들스틱 패턴을 인식하고, 이를 바탕으로 매매 신호를 생성한 뒤 시뮬레이션된 실행 파이프라인을 통해 신호의 품질을 백테스팅했습니다. 평가 지표로는 샤프 비율(Sharpe ratio), 최대 낙폭(maximum drawdown), 소르티노 비율(Sortino ratio), 정보 계수(information coefficient), F1-점수(F1-score), BLEU 점수(BLEU score) 등 엄격한 정량적 지표가 사용되었습니다. 시뮬레이션 백테스팅 결과, GPT-4 터보가 일반 목적 모델 중 가장 높은 연간 수익률과 샤프 비율을 달성했으며, 금융 도메인에 특화된 FinGPT는 도메인 특화 미세조정(fine-tuning) 덕분에 경쟁력 있는 위험 조정 성과를 보였습니다. 두 모델 모두 테스트 조건하에서 S&P 500 벤치마크보다 우수한 성과를 기록했습니다.
하지만 연구는 LLM의 한계점도 명확히 지적했습니다. 수치 환각(numerical hallucination), 컨텍스트 윈도우(context-window) 제한, 그리고 횡보장(sideways market regimes)에서의 일관성 없는 성능 등은 모든 평가 모델에서 공통적으로 나타난 실패 모드였습니다. 이는 LLM이 금융 시장의 복잡하고 이질적인 정보 환경을 처리하는 데 있어 여전히 개선이 필요함을 의미합니다. 그럼에도 불구하고, 이번 연구는 LLM이 AI 트레이딩 시스템 내에서 진정한 잠재력을 가지고 있음을 보여주며, 향후 견고한 AI 트레이딩 시스템을 구축하기 위해서는 신중한 작업 분해, 엄격한 백테스팅 프로토콜, 그리고 도메인 인지 미세조정 전략이 필수적임을 강조합니다.
이 연구 결과는 금융 시장 분석에 AI, 특히 LLM을 활용하려는 시도가 단순한 가능성을 넘어 실제적인 성과를 낼 수 있음을 보여줍니다. 투자 전문가와 기관은 LLM을 보조적인 분석 도구로 활용하여 시장 동향을 예측하고 투자 결정을 내리는 데 도움을 받을 수 있을 것입니다. 또한, 금융 데이터에 특화된 LLM 개발 및 미세조정의 중요성이 부각되면서, 특정 도메인에 최적화된 AI 모델 개발 경쟁이 더욱 심화될 것으로 예상됩니다. 이는 금융 기술(FinTech) 분야의 혁신을 가속화하고, 개인 투자자들에게도 더욱 정교한 투자 도구를 제공할 가능성을 열어줄 것입니다.