최근 한 개발자가 대규모 언어모델(LLM)이 기본적인 논리적 추론, 특히 부울 논리(Boolean logic) 문제에서 심각한 환각(hallucination) 현상을 보인다는 사실을 밝히고, 이를 정확히 진단할 수 있는 '부울 대수 엔진(Boolean Algebra Engine)'을 공개했습니다. 이 엔진은 퀴인-매클러스키(Quine-McClusky) 방법을 기반으로 LLM이 생성하거나 사용하는 논리 규칙 내의 모순을 10밀리초(ms) 이내에 정확하게 식별할 수 있어, AI 에이전트의 신뢰성을 획기적으로 높일 잠재력을 보여줍니다.
이 개발자는 LLM이 복잡한 의사결정 로직을 처리하는 과정에서 발생하는 문제를 지적했습니다. 예를 들어, 대출 승인, 규정 준수 확인, 접근 제어 등 인간이 작성한 부울 규칙에 따라 작동하는 AI 에이전트의 경우, 여러 규칙이 서로 충돌할 때 LLM은 이를 신뢰할 수 있게 잡아내지 못합니다. 실제로 벤치마크 테스트 결과, 11억(1.1B) 개 매개변수의 타이니라마(TinyLlama)는 50%의 오답률을 보이며 항상 '예'라고 답하는 경향을 보였고, 700억(70B) 개 매개변수의 라마 3.3(Llama-3.3)조차도 20%의 오답률을 기록했습니다. 특히 라마 3.3은 규칙이 충돌하지 않는데도 충돌한다고 잘못 판단하는 오류를 보였습니다. 이는 LLM의 추론 능력이 여전히 기본적인 논리 영역에서 취약하다는 것을 명확히 보여줍니다.
이 부울 대수 엔진은 LLM의 이러한 한계를 보완하는 결정론적(deterministic) 계층 역할을 합니다. 개발자가 제공한 예시에서, 대출 승인 AI 에이전트의 네 가지 규칙('A.B'(신용 좋고 소득 확인 시 승인), '!A'(신용 나쁠 시 거절), 'C'(담보 있을 시 승인), '!C'(담보 없을 시 거절))을 엔진에 입력하자, 'A.B'와 '!A', 그리고 'C'와 '!C' 규칙이 서로 충돌하는 '모순(contradiction)' 관계에 있음을 정확히 찾아냈습니다. 이러한 충돌은 인간이 수기로 작성된 규칙을 검토할 때는 놓치기 쉽지만, 엔진은 모든 가능한 입력 조합을 검사하여 오류를 명확히 식별합니다. 이는 AI 에이전트가 예상치 못한 방식으로 작동하거나 잘못된 결정을 내리는 것을 방지하는 데 필수적입니다.
이러한 부울 대수 엔진은 AI 시스템의 신뢰성과 안전성을 확보하는 데 중요한 의미를 가집니다. LLM이 다양한 산업 분야에서 의사결정 시스템의 핵심 구성 요소로 자리 잡으면서, 그들의 논리적 정확성은 더욱 중요해지고 있습니다. 이 엔진은 금융, 법률, 의료 등 규제 준수와 정확한 판단이 필수적인 분야에서 AI 에이전트의 오류를 줄이고, 예측 불가능한 행동을 방지하는 데 기여할 수 있습니다. 또한, 개발자들은 이 엔진을 활용하여 LLM 기반 애플리케이션의 견고성을 높이고, 사용자들은 AI 시스템에 대한 신뢰를 더욱 확고히 할 수 있을 것입니다.