최근 출시된 사주 리포트 서비스 '방울당'이 인공지능(AI) 기반 사주 서비스의 고질적인 문제인 '환각(hallucination)' 현상을 해결하기 위한 독특한 접근 방식을 선보였습니다. 대규모 언어모델(LLM)이 그럴듯한 서술은 잘 만들어내지만, 만세력 계산이나 용신(用神) 판정처럼 명확한 정답이 있는 영역에서는 잘못된 정보를 생성할 위험이 크다는 점에 주목한 것입니다.
방울당은 이러한 문제를 해결하기 위해 '판정은 코드가, 서술만 LLM이'라는 원칙을 적용했습니다. 오행 가중치, 십성(十星), 12운성(運星), 신살(神殺), 대운(大運)/세운(歲運) 계산 등 결정론적인 만세력 엔진은 모두 코드로 구현했습니다. 또한, 연애·직업·재물·건강 판정 및 월별 흐름까지도 코드가 결정하며, LLM은 이 결과를 뒤집을 수 없도록 설계했습니다. LLM은 오직 '이 기운이 사람에게 어떻게 작동하는가'와 같은 개인화된 서술에만 집중하며, 개념 정의는 하드코딩된 사전이 담당해 환각과 토큰 비용을 줄였습니다. 이 과정에서 프롬프트에 '하지 마라' 목록을 늘리는 것보다 LLM의 역할을 좁히는 것이 훨씬 효과적이었고, 결정론 레이어가 두꺼워질수록 LLM 비용과 재시도율이 감소하는 것을 확인했다고 합니다.
이러한 접근 방식은 AI 서비스 개발에 있어 중요한 시사점을 제공합니다. LLM의 강력한 언어 생성 능력을 활용하되, 사실 확인이 필요한 핵심 로직은 전통적인 프로그래밍 방식으로 구현함으로써 AI의 신뢰성을 확보하는 모델을 제시한 것입니다. 이는 사주와 같이 정답이 명확해야 하는 도메인뿐만 아니라, 법률, 의료, 금융 등 정확성이 필수적인 다른 전문 분야 AI 서비스 개발에도 영감을 줄 수 있습니다. AI의 강점과 약점을 명확히 이해하고, 각자의 역할을 분담시키는 하이브리드 방식이 앞으로 다양한 분야에서 더욱 중요해질 것으로 보입니다.