현대 금융 시장에서 투자자들은 복잡한 다목적 최적화(Multi-Objective Optimization, MOO) 문제에 직면합니다. 특히 포트폴리오 구성 시 위험은 최소화하고 수익은 극대화해야 하는 상충하는 목표를 동시에 고려해야 합니다. 최근 발표된 논문은 이러한 난제를 해결하기 위해 강화 학습(Reinforcement Learning, RL)과 유전 알고리즘(Genetic Algorithm)의 일종인 NSGA-II를 결합하고, 회색 관계 계수(Gray Relational Coefficient, GRC)를 추가한 새로운 모델 'RL-NSGA-II-GRC'를 제안했습니다.
이 모델은 기존 NSGA-II의 한계를 극복하기 위해 두 가지 핵심 요소를 통합했습니다. 첫째, 강화 학습 에이전트(RL agent)가 진화 매개변수(evolutionary parameters)를 온라인으로 적응적으로 제어하여 하이퍼볼륨(hypervolume), 실현 가능성(feasibility), 다양성(diversity)과 같은 지표를 기반으로 세대별 피드백을 반영합니다. 둘째, GRC 기반의 이진 토너먼트 연산자(binary tournament operator)를 도입하여 우위 순위(dominance rank), 밀집 거리(crowding distance), 이상적인 참조점(ideal reference)과의 근접성을 종합적으로 고려한 단일 점수로 부모 해를 평가하고 선택합니다. 이를 통해 파레토 프론트(Pareto front)로의 수렴을 가속화하고 해의 다양성을 보존합니다.
연구팀은 RL-NSGA-II-GRC 모델을 Kursawe 및 CONSTR 벤치마크 문제와 나스닥(NASDAQ) 포트폴리오 최적화에 적용하여 그 성능을 검증했습니다. 벤치마크 테스트에서는 기존 NSGA-II 대비 약 5.8% 및 4.4%의 수렴 개선을 달성하면서도 해의 분포를 잘 유지했습니다. 나스닥 포트폴리오 적용 사례에서는 부드럽고 밀집된 효율적 투자선(efficient frontier)을 생성하여 최대 샤프 비율(Sharpe ratio) 포트폴리오(연간 샤프 비율 1.92)와 다양한 위험 회피 수준에 맞는 최적의 포트폴리오를 식별할 수 있음을 보여주었습니다. 이는 금융 시장에서 데이터 기반 의사결정을 내리는 투자자와 분석가들에게 실질적인 통찰력을 제공할 수 있음을 의미합니다.