세금 신고와 같은 민감하고 복잡한 영역에서 인공지능(AI)의 활용이 점차 확대되고 있지만, 단순히 AI 모델의 성능을 높이는 것만으로는 충분하지 않다는 지적이 나왔습니다. 핵심은 AI가 도출한 결과에 대한 철저한 '검증' 과정이라는 주장입니다. 이는 AI가 아무리 발전해도 세금처럼 미묘하고 개인화된 영역에서는 인간의 감독과 확인이 반드시 필요함을 강조합니다.
세금 신고는 수많은 법규와 예외 조항, 그리고 개인의 복잡한 재정 상황이 얽혀 있어 고도의 전문성을 요구합니다. 현재의 대규모 언어모델(LLM) 기반 AI는 방대한 데이터를 학습하여 세금 관련 질문에 답변하거나 서류 작성을 돕는 데 활용될 수 있습니다. 하지만 AI는 학습 데이터에 없는 새로운 상황이나 미묘한 법적 해석, 또는 개인의 특수한 상황을 완벽하게 이해하고 반영하기 어렵습니다. 예를 들어, 특정 공제 요건이나 비과세 대상 여부는 단순히 텍스트 정보만으로는 판단하기 어려운 경우가 많습니다. 따라서 AI가 제시한 세금 계산 결과나 신고 내용이 정확한지 전문가나 사용자가 직접 확인하는 과정이 필수적입니다.
이러한 검증의 중요성은 AI의 신뢰성(trustworthiness)과 책임 소재(accountability) 문제와도 직결됩니다. AI가 잘못된 세금 신고를 유도할 경우, 그 책임은 누구에게 있는가 하는 문제가 발생할 수 있습니다. 결국 세금 AI는 인간 전문가의 역할을 완전히 대체하기보다는, 복잡한 세금 업무를 보조하고 효율성을 높이는 도구로서 기능해야 합니다. AI가 생성한 초안을 바탕으로 전문가가 최종 검토하고 승인하는 워크플로우를 구축하는 것이, AI 기술을 세금 분야에 안전하고 효과적으로 통합하는 핵심 전략이 될 것입니다.