최근 대규모 언어모델(LLM) 기반의 AI 에이전트 개발이 활발해지면서, LLM이 생성한 정보의 신뢰성 문제가 중요한 과제로 떠오르고 있습니다. 이러한 문제의식에서 출발한 '송련 코어(SongRyeon Core)' 프로젝트는 LLM의 추측성 판단과 코드로 검증된 실제 사실을 명확히 분리하여 다루는 로컬 에이전트 런타임(agent runtime) 실험을 제안합니다. 이는 AI 에이전트가 사용자에게 어떤 근거로 정보를 제공하는지 투명하게 보여주는 것을 목표로 합니다.
송련 코어는 LLM 기반 에이전트에서 자주 발생하는 문제, 즉 LLM이 추측한 내용을 시스템의 확정된 사실처럼 제시하거나, 코드의 대체(fallback) 로직이나 경험적 발견(heuristic)이 LLM의 판단과 뒤섞여 보이는 현상을 해결하고자 합니다. 이를 위해 정보의 종류를 '절대정보', '상대정보', '혼합정보' 세 가지로 나눕니다. 절대정보는 코드 실행 결과, 추적(trace), 스키마(schema), 도구(tool) 실행 결과 등 코드로 직접 확인 가능한 객관적인 값이며, 상대정보는 하나의 절대정보에 대응하는 LLM의 판단, 혼합정보는 여러 출처(source bundle)에 근거한 LLM의 판단을 의미합니다. 이러한 정보 분리 구조를 통해 에이전트의 내부 상태와 최종 답변 간의 불일치를 줄이고, 정직성 검사(honesty check)를 강화하는 것을 목표로 합니다.
이 프로젝트는 아직 초기 단계의 실험이지만, AI 에이전트의 신뢰성과 투명성을 확보하는 데 중요한 시사점을 던집니다. LLM이 생성하는 정보의 '환각(hallucination)' 문제를 근본적으로 다루고, 에이전트가 어떤 과정을 거쳐 결론에 도달했는지 사용자에게 명확히 제시함으로써, AI 에이전트의 활용 범위를 넓히고 사용자 신뢰를 높일 수 있습니다. 특히, 복잡한 의사결정이나 중요한 정보를 다루는 에이전트의 경우, 송련 코어와 같은 접근 방식은 시스템의 안정성과 책임성을 강화하는 데 필수적인 요소가 될 것입니다.