인공지능(AI)이 생성하는 정보가 점점 더 많아지면서, 그 신뢰성과 투명성에 대한 의문이 커지고 있습니다. 특히 AI가 만든 주장이 마치 권위 있는 사실처럼 받아들여질 때, 그 근거가 되는 증거, 분석 과정, 인간의 승인 여부, 그리고 수정 이력 등이 서로 다른 상태를 참조하여 혼란을 야기할 수 있습니다. 이러한 문제를 해결하기 위해 최근 아카이브(arXiv)에 발표된 논문은 AI 생성 주장을 독립적으로 검증하고 반박할 수 있도록 돕는 새로운 접근 방식인 '퍼블리케이션 권한(Publication Authority)'과 'PAC-2026' 프로토콜을 제안했습니다.
이 연구는 'PAC-2026(Publication-Accountability Calculus)'이라는 기계 판독 가능한 프로토콜 후보를 통해 퍼블리케이션 권한을 구현합니다. 퍼블리케이션 권한은 '정확한 상태(exact-state)', '양도 불가능(non-transferable)', '일회성(single-use)'이라는 세 가지 특성을 가진 발행 능력으로 정의됩니다. 이 프로토콜은 증거, 실행 및 아티팩트, 측정 공개, 승인, 표면 일치, 생명 주기 연속성이라는 여섯 가지 의무를 규정하며, 각 의무는 목표에 부합하는 증거, 국지적인 반례, 또는 국지적인 검증 불가능성을 제공합니다. 이 중 어느 하나라도 충족되지 않으면 발행이 불가능하며, 오직 완전하고 새로운 '전체 통과(all-pass)' 기록만이 하나의 원자적 발행 전환에 필요한 허가를 부여합니다.
이러한 접근 방식은 AI 생성 정보의 출처(provenance), 증명(attestation), 투명성(transparency)을 넘어, 특정 발행 시점의 정확한 상태를 명시함으로써 정보의 신뢰성을 획기적으로 높일 수 있습니다. 연구팀은 신원 벡터, 적대적 사례, 유한 모델, 그리고 역사적 구현을 활용하여 11만 개 이상의 안전한 도달 가능 상태를 탐색하고, 76개의 안전하지 않은 구성에서 예상되는 위반 또는 관찰자 반대 모델을 성공적으로 생성했습니다. 이는 제안된 프로토콜이 내부 일관성, 제한된 안전성, 오류 민감성, 그리고 제한된 구성 가능성을 가지고 있음을 시사합니다. 궁극적으로 이 프로토콜은 AI 시대에 정보의 책임성을 강화하고, 누구나 AI 생성 주장을 독립적으로 검증하고 필요시 반박할 수 있는 기반을 마련하여, 정보의 신뢰도를 높이는 데 중요한 역할을 할 것으로 기대됩니다.