최근 대규모 언어모델(LLM)이 다양한 분야의 문서 작업을 혁신할 잠재력을 보여주면서, 세금 및 법률 분야에서도 LLM 활용에 대한 기대감이 커지고 있습니다. 특히 방대한 양의 규정과 사례를 분석해야 하는 세금 문서 작업에서 LLM이 효율성을 높일 수 있을 것이라는 전망이 많습니다. 하지만 국제 조세 전문가들은 LLM에 세금 관련 업무를 전적으로 위임하는 것이 생각보다 훨씬 위험할 수 있다고 경고하고 나섰습니다.
전문가들이 지적하는 가장 큰 위험은 LLM의 환각(hallucination) 현상입니다. LLM은 때때로 사실과 다른 정보를 마치 진실인 것처럼 생성해낼 수 있으며, 이는 세금 보고와 같은 중요한 문서에서 치명적인 오류로 이어질 수 있습니다. 또한, 세금 규정은 끊임없이 변화하고 업데이트되는데, LLM은 학습 시점 이후의 최신 정보를 반영하지 못할 가능성이 큽니다. 예를 들어, 특정 국가의 새로운 세법 개정안이나 판례를 LLM이 즉시 인지하고 정확하게 적용하기는 어렵습니다. 이러한 부정확성은 기업에 막대한 벌금, 소송, 심지어 형사 처벌까지 초래할 수 있습니다.
따라서 세금 문서 작업에 LLM을 활용하더라도, 반드시 세금 전문가의 철저한 검토와 감독이 수반되어야 합니다. LLM은 정보 검색, 초안 작성, 데이터 요약 등 보조적인 역할에 국한되어야 하며, 최종 의사 결정이나 중요한 법적 문서 작성은 여전히 인간 전문가의 영역으로 남아야 합니다. 이는 단순히 기술적 한계를 넘어, 세금 관련 업무가 지니는 법적 책임과 윤리적 중요성 때문입니다. LLM은 강력한 도구이지만, 그 한계를 명확히 인지하고 신중하게 접근하는 것이 중요합니다.