인공지능(AI) 기술이 빠르게 발전하면서 다양한 업무에 활용되고 있지만, AI가 생성한 정보의 '신뢰성'과 '증명 가능성'은 여전히 큰 과제로 남아있습니다. 특히 회계, 법률, 규제 준수와 같이 정확성이 필수적인 영역에서는 AI의 답변이 '아마도 맞을 것'이라는 추측만으로는 부족합니다. 이러한 문제를 해결하기 위해 Simple AI v2는 AI 모델이 사실을 직접 '생성(generate)'하는 대신, 이미 확보된 증거(evidence)에서 '읽어오도록(read)' 하는 혁신적인 런타임(runtime) 아키텍처를 도입했습니다.
Simple AI v2의 핵심은 '모델은 가리키고, 서버는 쓴다(the model points, the server writes)'는 설계 원칙에 있습니다. 기존 AI 시스템은 모델이 답변의 모든 사실을 직접 작성하고, 시스템은 오류를 나중에 잡아내는 방식이었습니다. 하지만 v2에서는 모델이 특정 사실(숫자, 이름, 날짜 등)을 언급할 때, 해당 사실이 저장된 증거의 특정 위치를 가리키는 '포인터(pointer)'를 생성합니다. 이 포인터는 값의 주소, 값의 내용, 그리고 왜 이 값이 필요한지에 대한 세 가지 필수 정보를 포함합니다. 예를 들어, 급여 명세서의 보류액을 묻는 질문에 AI는 직접 '84,210.50달러'라고 쓰는 대신, 해당 정보가 담긴 데이터베이스의 특정 위치를 가리키는 토큰을 생성하고, 실제 값은 서버가 해당 위치에서 읽어와 최종 답변을 구성합니다. 이렇게 함으로써 모델이 잘못된 숫자를 '생성'할 가능성을 원천적으로 차단하고, 모든 사실에 대한 명확한 출처와 근거를 제공할 수 있습니다.
이러한 접근 방식은 AI의 활용 범위를 '사람이 검토하는 보조 도구'에서 '실제 운영 시스템과 직접 상호작용하는 핵심 도구'로 확장하는 데 중요한 의미를 가집니다. 급여 처리, 구매 주문, 규제 준수와 같이 오류가 용납되지 않는 업무에서 AI가 생성한 정보의 출처를 명확히 제시할 수 있게 되면서, 감사(audit)나 법적 책임이 따르는 상황에서도 AI의 답변을 신뢰할 수 있게 됩니다. Simple AI v2는 모델의 정확성 자체를 높이는 경쟁을 넘어, AI 시스템이 자신의 답변을 '증명'할 수 있도록 함으로써 AI 기술의 산업적 적용 가능성을 한 단계 끌어올리는 중요한 전환점이 될 것입니다.