TitovDigital이 대규모 언어모델(LLM) 없이도 구조화된 추론(structured reasoning)을 수행할 수 있는 오픈소스 도구 'kbai-skill'을 공개했습니다. 이 도구는 복잡한 의사결정 로직을 자바스크립트(JavaScript) 함수 기반의 규칙으로 정의하고, 이를 순방향 추론(forward-chaining) 엔진으로 실행합니다. 특히 추론 과정에서 LLM을 직접 사용하지 않아 비용을 절감하고, 결과의 투명성을 확보할 수 있다는 점이 특징입니다.
'kbai-skill'은 비정형 데이터(unstructured data)에서 필요한 사실(fact)을 추출하는 데는 LLM 에이전트(agent)를 활용하지만, 실제 의사결정은 미리 정의된 규칙 엔진이 담당합니다. 예를 들어, 계약서 유효성 검토 시 LLM은 계약서에서 '비경쟁 조항 유무', '서명 여부' 등 핵심 사실을 추출하고, 이 사실들을 바탕으로 규칙 엔진이 계약의 유효성을 판단하는 식입니다. 만약 필요한 사실이 부족하면 엔진은 'FACT_NEEDED' 응답을 반환하며 추측을 거부하고, 에이전트는 해당 사실을 다시 문서에서 찾아 추론을 재실행합니다. 이는 LLM의 환각(hallucination) 문제를 줄이고, 추론 과정과 결과에 대한 명확한 근거를 제시합니다.
이러한 접근 방식은 특히 법률, 금융, 의료 등 높은 정확성과 설명 가능성(explainability)이 요구되는 분야에서 큰 잠재력을 가집니다. LLM의 강력한 자연어 처리 능력을 활용해 비정형 데이터를 구조화된 사실로 변환하고, 그 이후의 핵심 의사결정은 예측 가능하고 투명한 규칙 엔진에 맡김으로써 인공지능 시스템의 신뢰도를 크게 높일 수 있습니다. 또한, 지식 베이스(knowledge base)를 에이전트를 통해 자연어로 수정하고 업데이트할 수 있어, 전문가가 직접 복잡한 코딩 없이도 시스템을 유지보수할 수 있는 장점도 제공합니다.