최근 공개된 오픈소스 AI 에이전트 '테세라(Tessera)'는 기업 환경에서 AI의 고질적인 문제인 환각(hallucination)과 불투명성을 해결하기 위한 새로운 접근 방식을 제시합니다. 이 시스템은 AI 에이전트가 증거 없이 답변하는 것을 거부하고, 모든 답변의 근거를 원본 데이터까지 추적할 수 있도록 설계되었습니다. 또한, 에이전트가 취하는 모든 행동은 사용자 승인을 거쳐야만 실행되며, 그 과정이 기록으로 남습니다. 이는 AI의 신뢰성을 '느낌'이 아닌 '측정 가능한 수치'로 전환하려는 시도입니다.
테세라는 기업 내부에 흩어진 정형(데이터베이스, 스프레드시트) 및 비정형(문서, 로그, 티켓) 데이터를 통합하여 단일 지식 그래프(knowledge graph)를 구축합니다. 예를 들어, 여러 소스에서 'Acme Corp', 'ACME', 'acme-prod'를 동일한 엔티티로 인식하고 연결합니다. 이를 통해 사용자가 자연어로 질문하면, 시스템은 이 지식 그래프를 기반으로 답변을 생성하며, 답변의 모든 개별 문장(claim)은 원본 소스 레코드로 연결되는 추적 가능한 경로를 가집니다. 증명할 수 없는 내용은 단호히 거부하여 AI가 그럴듯하게 지어내는 것을 원천 차단합니다. 또한, 내장된 평가 도구는 AI 답변의 충실도(faithfulness), 커버리지(coverage), 품질을 정량적으로 측정하여 시스템 개선을 위한 명확한 지표를 제공합니다.
이러한 접근 방식은 2025년 AI 에이전트가 프로덕션 데이터베이스를 삭제하고 롤백 가능성을 오보한 가상의 사건에서 영감을 받았습니다. 테세라는 이러한 사고를 방지하기 위해 에이전트의 '행동'뿐만 아니라 '발언'까지도 증거 기반으로 통제합니다. 이는 대규모 언어모델(LLM) 자체의 성능보다는, AI 시스템의 신뢰성과 투명성을 확보하는 데 중점을 둡니다. 모델 공급업체에 의존하지 않고 온프레미스(on-premise) 환경에서도 보증이 유지되도록 설계되어, 기업이 AI를 핵심 업무에 더욱 안심하고 도입할 수 있는 기반을 마련합니다. 궁극적으로 테세라는 AI가 기업의 중요한 의사결정을 지원하는 데 있어 필수적인 '신뢰'와 '책임'을 구축하는 데 기여할 것입니다.