앤트로픽(Anthropic)이 AI 모델의 응답이 실제로 개발자가 주장하는 특정 모델에서 나왔는지 검증할 수 있는 암호학적 증명 시스템 '플래시프루브(FlashProve)'를 오픈소스(Apache 2.0)로 공개했습니다. 현재 사용자는 AI 모델의 답변이 특정 모델에서 생성되었는지 확인할 방법이 없어, 라우팅 서비스의 모델 변경이나 공격자의 토큰 스트림 변조 등을 감지하기 어려웠습니다. 플래시프루브는 이러한 문제를 해결하여 AI 모델의 투명성과 신뢰성을 크게 높일 수 있습니다.
플래시프루브는 '영지식 간결 비상호작용 지식 증명(zkSNARK)'이라는 강력한 암호학적 증명 방식을 활용합니다. 이 기술은 모델 제공자가 특정 모델에 대한 '약속(commit)'을 하고, 이후 모든 응답이 그 약속된 모델에서 나왔음을 증명하는 방식입니다. 특히, 라마 4 매버릭(Llama 4 Maverick)과 같은 4000억 개 매개변수(400B-parameter) 규모의 대규모 언어모델(LLM)에 대해 H100 GPU 한 대로 초당 약 110토큰(tokens/second)의 증명을 생성하며, 기존 오픈소스 시스템보다 70~95배 빠른 성능을 보여줍니다. 증명 크기는 1024토큰 요청당 약 19MB로, 모델 가중치(weights)는 숨기면서도 효율적인 검증이 가능합니다.
이러한 '증명 가능한 추론(provable inference)' 기술은 AI 산업 전반에 걸쳐 중요한 의미를 가집니다. 첫째, 소비자는 자신이 사용하는 AI 서비스가 약속된 모델을 사용하고 있는지 확인할 수 있어 신뢰가 높아집니다. 둘째, 독립적인 평가자나 규제 기관은 AI 모델의 성능 및 안전성 평가 시, 특정 모델이 정확히 사용되었음을 보장받을 수 있어 AI 규제 준수(compliance) 및 책임성(accountability) 확보에 필수적인 도구가 될 것입니다. 셋째, 사이버 공격자가 AI 응답을 조작하는 경우 이를 탐지할 수 있어 AI 시스템의 보안 강화에도 기여할 수 있습니다. 앤트로픽은 이 연구가 중간 단계의 성과이며, 더 많은 개발자들이 참여하여 기술을 개선해 나가기를 기대하고 있습니다.