AI 에이전트의 활동 내역을 투명하고 신뢰성 있게 검증할 수 있는 오픈소스 도구 '아크몬(Akmon)'이 등장했습니다. 아크몬은 AI 에이전트가 수행한 작업을 위변조 불가능한 형태로 기록하고, 제3자가 인터넷 연결 없이도 표준 암호화 도구인 오픈SSL(OpenSSL)만으로 해당 기록의 무결성과 진위 여부를 확인할 수 있도록 돕습니다. 이는 AI 시스템의 책임성과 투명성을 요구하는 시대적 흐름에 맞춰, 규제 준수 및 보안 감사에 중요한 역할을 할 것으로 보입니다.
아크몬은 기존에 사용 중인 AI 에이전트나 오픈텔레메트리(OpenTelemetry)를 사용하는 모든 도구 위에 덧붙여 작동합니다. 각 AI 세션은 내용 기반 주소 지정(content-addressed) 방식의 암호화 서명된 기록으로 변환되며, 이 기록은 휴대성이 뛰어나 다른 사람이 직접 검증할 수 있습니다. 특히, 검증 과정에서 아크몬 설치나 클라우드 서비스, 또는 기록 생산자를 신뢰할 필요 없이 오직 오픈SSL만으로 서명을 확인할 수 있다는 점이 핵심입니다. 이는 EU AI 법(EU AI Act)의 고위험 AI 시스템에 대한 로깅 의무(2026년 8월 2일 발효)와 같은 규제 환경에서 AI 에이전트의 활동을 증명해야 할 때 강력한 도구가 될 것입니다.
이 도구는 AI 에이전트가 어떤 작업을 수행했는지, 누가 그 작업을 승인했는지 등을 명확히 기록하고 증명하는 데 초점을 맞춥니다. 예를 들어, 오픈텔레메트리 추적(trace)을 아크몬 세션으로 가져와 키를 생성하고 서명한 뒤, 운영자 증명(operator attestation)을 추가하여 책임자를 명시할 수 있습니다. 이후 'agef-verify'라는 독립적인 바이너리나 심지어 오픈SSL만으로 이 모든 기록의 무결성과 서명을 검증할 수 있습니다. 이는 AI 시스템에서 발생할 수 있는 문제나 오작동에 대한 책임 소재를 명확히 하고, 장기적으로 AI 신뢰성을 구축하는 데 기여할 것입니다.