최근 연구에서 40억(4B) 파라미터 규모의 AI 모델이 PostgreSQL(포스트그레스) 데이터베이스의 쿼리 실행 계획을 최적화하여 기존보다 최대 81% 빠른 성능을 보였습니다. 이 모델은 특히 조인(JOIN)이 많은 복잡한 분석 쿼리 113개에서 기하평균 1.81배의 가속과 총 실행 시간 44.7% 감소를 달성했습니다. 이는 AI가 데이터베이스 성능 최적화라는 난제를 해결할 수 있음을 시사하며, 반복적으로 실행되는 분석 쿼리의 효율성을 크게 높일 잠재력을 가지고 있습니다.
이 AI 모델은 기존 PostgreSQL을 직접 대체하는 방식이 아니라, pg_hint_plan이라는 확장 기능을 활용해 쿼리 힌트를 생성하는 방식으로 작동합니다. 쿼리당 최대 15개의 후보 실행 계획을 생성하고, 실제 실행 피드백을 통해 가장 빠른 계획을 선택하는 과정을 거칩니다. 특히 조인 순서 결정은 NP-hard 문제로 알려져 있을 만큼 복잡하며, 필터 적용 순서나 조인 알고리듬, 스캔 방식 등 수많은 조합이 성능에 영향을 미칩니다. PostgreSQL은 카디널리티(행 수)를 추정하여 계획을 세우지만, 이 추정치가 잘못되면 전체 쿼리 성능에 악영향을 미칠 수 있습니다. 반면 AI 모델은 실제 실행 시간을 검증 가능한 신호로 활용하여 최적의 계획을 찾아냅니다. 연구팀은 RTX 3090 두 장으로 학습과 추론이 가능한 4B 규모의 Qwen 모델을 기반으로, 지도 미세조정과 강화학습을 적용하여 모델의 성능을 개선했습니다.
이 연구의 핵심은 일회성 쿼리보다는 수천 번 반복 실행되는 분석 쿼리의 성능 개선에 초점을 맞췄다는 점입니다. 초기 탐색에 드는 비용을 이후 반복 실행을 통해 상쇄하는 방식으로, 특정 데이터베이스 환경에 최적화된 계획을 찾아냅니다. 이는 데이터 웨어하우스나 데이터 분석 플랫폼 등에서 대규모 데이터를 다루는 기업들에게 상당한 운영 효율성을 제공할 수 있습니다. 또한, 데이터베이스 캐시(shared_buffers) 확대를 통해 측정 잡음을 줄이고 정확한 성능 평가를 가능하게 한 점도 주목할 만합니다. AI 기반 쿼리 최적화는 데이터베이스 관리의 복잡성을 줄이고, 개발자들이 성능 문제에 들이는 시간을 절약하여 핵심 비즈니스 로직에 집중할 수 있도록 도울 것입니다.