인튜이트 크레딧 카르마(Intuit Credit Karma)가 대규모 언어모델(LLM)을 활용한 금융 조언 서비스의 정확도와 신뢰성을 높이기 위해 GEPA(Guided Exploration of Prompt space for Alignment)라는 독점적인 프롬프트 튜닝 기술을 도입했습니다. 이는 LLM이 마치 '프리랜서'처럼 자유롭게 답변하는 것을 방지하고, 금융 모델링의 엄격한 기준에 맞춰 정교하게 조정된 프롬프트를 사용함으로써, 사용자에게 더욱 신뢰할 수 있는 개인화된 금융 솔루션을 제공하려는 전략입니다.
크레딧 카르마의 구르프리트 싱(Gurpreet Singh)은 GEPA를 통해 LLM이 단순히 일반적인 정보를 제공하는 것을 넘어, 특정 금융 데이터와 모델에 기반한 정확한 조언을 할 수 있도록 유도한다고 설명했습니다. 이 기술은 프롬프트 공간을 체계적으로 탐색하여 LLM의 응답이 금융 규제 및 회사 정책에 부합하도록 정렬(alignment)하는 데 중점을 둡니다. 이는 금융 서비스와 같이 높은 정확성과 책임감이 요구되는 분야에서 생성형 AI(Generative AI)를 안전하게 활용하기 위한 핵심적인 접근 방식입니다.
이러한 접근 방식은 금융 분야에서 생성형 AI의 잠재력을 최대한 활용하면서도 발생할 수 있는 위험을 최소화하려는 노력의 일환입니다. LLM이 제공하는 정보의 정확성과 신뢰성은 금융 상품 추천, 신용 점수 관리, 예산 책정 등 민감한 영역에서 사용자에게 직접적인 영향을 미치기 때문에 매우 중요합니다. GEPA와 같은 기술은 LLM이 '환각(hallucination)'을 일으키거나 부정확한 정보를 제공할 가능성을 줄여, AI 기반 금융 조언 서비스의 실질적인 가치를 높이는 데 기여할 것으로 기대됩니다.