인공지능(AI) 시스템의 의사결정 과정에 대한 투명성과 책임성 요구가 커지는 가운데, AI 런타임의 거버넌스 결정을 기록하고 검증할 수 있는 새로운 프로토콜인 'AIREP'(AI Runtime Evidence Protocol)이 발표되었습니다. 이 프로토콜은 AI가 특정 출력을 승인하거나, 차단하거나, 수정하는 등의 결정을 내릴 때마다 그 내용을 독립적으로 검증 가능한 형태로 기록하여, AI 시스템의 신뢰성을 확보하는 데 중요한 역할을 할 것으로 보입니다.
AIREP은 AI 런타임이 내린 개별 거버넌스 결정을 단일 서명된 객체(signed object)로 기록합니다. 이 기록은 어떤 당사자라도 오프라인에서 해당 런타임과 독립적으로 확인할 수 있습니다. 기록에는 결정 내용(승인, 차단, 연기 등), 정책 근거, 입력 및 출력, 증거 자료가 값(value)이 아닌 해시(hash) 형태로 참조되어 데이터 무결성을 보장합니다. 또한, 기록들은 SHA-256 해시 체인으로 연결되어 있어, 기록의 조작이나 누락 여부를 재계산을 통해 쉽게 감지할 수 있습니다. 벤더, 모델, 도메인별 특정 내용은 선택적 네임스페이스로 분리하여 프로토콜의 중립성을 유지하는 것이 특징입니다.
이 프로토콜은 AI 시스템의 책임성(accountability)과 감사 가능성(auditability)을 크게 향상시킬 수 있습니다. 특히 자율적인 AI 시스템이 사회 전반에 미치는 영향이 커지면서, AI의 의사결정 과정을 명확히 이해하고 필요시 검증할 수 있는 메커니즘은 필수적입니다. AIREP은 이러한 요구에 부응하며, AI 기술의 신뢰성 있는 확산을 위한 중요한 인프라가 될 수 있습니다. 이는 규제 당국, 기업, 최종 사용자 모두에게 AI 시스템의 동작에 대한 더 깊은 통찰력과 확신을 제공할 것입니다.