최근 주목받는 에이전트형 인공지능(AI)은 사람처럼 데이터의 미묘한 오류나 업무 맥락을 스스로 파악하고 보완할 수 없습니다. 따라서 에이전트 AI가 신뢰성 있게 작동하려면, 데이터의 품질, 의미, 그리고 사용 권한을 시스템에 명확하게 명시하는 것이 필수적입니다. 사람이 암묵적으로 처리하던 데이터 관련 업무를 AI 시스템에 맞춰 재설계해야 하는 시점입니다.
이를 위해 데이터 계약(Data Contract)을 통해 데이터의 형식, 최신성, 품질 기준을 엄격하게 검증하고, 이 기준을 통과하지 못한 데이터는 에이전트에 전달하지 않아야 합니다. 예를 들어, 가격 데이터가 24시간 이내에 갱신되지 않았다면, 에이전트가 이전 가격을 안내하여 손실을 발생시킬 수 있습니다. 또한, 매출 계산법이나 고객 정의 같은 핵심 업무 규칙은 버전 관리되는 공통 정의로 만들어 에이전트가 매번 추측하지 않도록 해야 합니다. 데이터브릭스(Databricks)의 메달리온 아키텍처(Medallion Architecture)에 에이전트의 쿼리 패턴을 기반으로 최적화된 '어댑티브 골드(Adaptive Gold)' 계층을 추가하는 방안도 제시됩니다. 이는 에이전트가 신뢰할 수 있는 '골드(Gold)' 계층의 데이터만 사용하도록 보장하며, 비정형 데이터(문서, PDF 등) 역시 최신성 SLA(서비스 수준 협약)와 메타데이터, 텍스트 품질 검증을 통해 신뢰도를 확보해야 합니다.
에이전트 AI의 자율성은 섀도 모드(Shadow Mode)부터 완전 자율 모드(Fully Autonomous Mode)까지 단계적으로 확대하되, '무엇을 왜 했는지' 추적할 수 있는 기록은 첫날부터 갖춰야 합니다. EU AI Act와 같은 규제는 고위험 AI 시스템에 대해 이벤트 자동 기록 및 최소 6개월 보존을 의무화하고 있으며, 위반 시 막대한 과징금을 부과합니다. 따라서 에이전트의 모든 행동과 판단 근거, 조회 출처를 기록하는 '에이전트 계보(agentic lineage)' 구축이 중요합니다. 이는 규제 준수뿐만 아니라 문제 발생 시 디버깅, 감사, 고객 이의 제기 대응에 필수적인 요소가 됩니다. 궁극적으로 에이전트 AI의 성공은 기술적 진보뿐만 아니라, 이를 뒷받침하는 견고하고 신뢰할 수 있는 데이터 아키텍처와 거버넌스에 달려 있습니다.