AI 기반 보안관제(SOC) 솔루션 돔SOC(DomeSOC)가 인공지능의 '환각(hallucination)' 문제를 해결하며 보안 업계의 주목을 받고 있습니다. 돔SOC는 AI가 위협을 조사하고 판단하며 대응하는 과정에서 내놓는 모든 주장을 독립적인 검증 게이트를 통해 실제 증거와 대조합니다. 이를 통해 증거로 뒷받침되지 않는 주장은 걸러내고, 보안 분석가에게는 검증된 정보만을 제공하여 AI 기반 보안 시스템의 신뢰도를 획기적으로 높였습니다.
돔SOC는 앤트로픽(Anthropic)의 클로드(Claude)를 기반으로 하며, '결정 검사관(Decision Inspector)'이라는 독자적인 기능을 통해 AI 주장의 근거를 명확히 제시합니다. 예를 들어, '무차별 대입 공격(Brute force)'이나 '자격 증명 접근(credential access)'과 같은 주장은 실제 탐지 신호나 MITRE ATT&CK 프레임워크와 같은 증거에 기반했음을 명시합니다. 반면, '국가 지원 해커'나 '측면 이동 진행 중'과 같이 증거가 부족한 주장은 '지원되지 않음(Unsupported)'으로 분류되어 분석가에게 전달되기 전에 제거됩니다. 또한, 4명의 전문 요원과 '악마의 변호인(devil's advocate)' 역할을 하는 회의론자(Skeptic)가 병렬적으로 탐지를 조사하여, 모든 가능성을 검토한 후 최종 권고를 내리며, 이 과정에서 나온 모든 주장은 다시 독립적인 게이트에서 증거 기반으로 평가됩니다.
이러한 접근 방식은 기존 AI SOC 도구들이 AI 오류를 명확히 밝히지 못했던 한계를 극복합니다. 돔SOC는 AI의 과잉 주장(over-claim) 비율을 측정하고, 프롬프트 변경 시 이 비율이 증가하지 않는 경우에만 배포하여 AI의 신뢰성을 지속적으로 관리합니다. 또한, 고객 환경에 맞춰 AI를 미세 조정(calibration)하여 오탐(false positive)을 줄이고 정확도를 높입니다. 이는 보안팀이 AI의 권고를 맹목적으로 따르지 않고, 어떤 주장이 증거에 기반하고 어떤 주장이 걸러졌는지 정확히 파악한 후 의사결정을 내릴 수 있게 함으로써, AI 기반 보안 시스템에 대한 신뢰와 통제력을 동시에 제공하는 중요한 진전입니다.