최근 AI를 활용해 금융 관련 글을 작성하는 과정에서 발생할 수 있는 치명적인 숫자 오류를 검증하는 도구 'MCP'(숫자 검사기)가 개발되어 화제입니다. 한 개인 블로거가 AI로 금융 공시 해설 초안을 작성하다가 주식 교환 비율이 뒤바뀌거나, 실적 수치가 10배 이상 부풀려지는 등의 심각한 오류를 경험한 후, 이를 해결하기 위해 직접 개발한 솔루션입니다.
개발자는 AI에게 정확한 정보 확인을 지시했음에도 불구하고, AI가 생성한 초안에 주식교환 비율 역전, 실적 숫자 오기입, 미국 국채 금리 혼동 등 다양한 숫자 오류가 빈번하게 발생했음을 밝혔습니다. 특히, 문장 구조 검수에만 집중하고 숫자에 대한 직접 검증을 소홀히 하면서 이러한 문제가 더욱 두드러졌습니다. 이에 개발자는 DART(금융감독원 전자공시시스템) 공시, 한국은행, 미국 재무부 등 신뢰할 수 있는 공식 데이터를 직접 불러와 AI가 생성한 글의 숫자를 대조, 검증하는 프로그램을 만들었고, 이를 'MCP' 서버로 공개했습니다. 이 도구는 합병·주식교환 비율, 매출, 영업이익, 국채 금리, 코스피 종가, 기준금리, 환율 등을 공식 값과 비교하여 오류를 찾아냅니다.
이번 'MCP'의 등장은 AI 기반 콘텐츠 생성의 편리함 뒤에 가려진 '정확성' 문제에 대한 경각심을 일깨웁니다. 특히 금융과 같이 숫자의 정확성이 절대적으로 중요한 분야에서는 AI의 답변을 맹신하기보다, 공식 데이터를 통한 철저한 교차 검증이 필수적임을 보여줍니다. 이는 AI 기술이 발전할수록 인간의 비판적 사고와 검증 역할이 더욱 중요해진다는 점을 시사하며, AI의 한계를 보완하는 전문화된 검증 도구의 필요성을 강조합니다. 앞으로 다양한 분야에서 AI의 오류를 보완하는 유사한 검증 시스템이 더욱 중요해질 것으로 예상됩니다.