인공지능(AI) 모델의 출력이 실제로 해당 모델에서 나왔는지 검증하는 새로운 오픈소스 시스템 '플래시프루브(FlashProve)'를 앤트로픽(Anthropic)이 공개했습니다. 이 시스템은 '증명 가능한 추론(provable inference)'이라는 개념을 기반으로, 암호학적 증명을 통해 특정 AI 모델이 생성한 결과물임을 수학적으로 보장합니다. 이는 마치 이메일 서명으로 발신자를 확인하는 것과 유사하게, 사용자가 자신이 사용한다고 생각하는 모델의 응답이 맞는지 확신할 수 있게 해줍니다.
플래시프루브는 AI 연구소들이 각 모델의 '지문(fingerprint)'을 공개하도록 요구합니다. 이 지문은 모델의 내부 가중치(weights)를 노출하지 않으면서도 특정 출력과 일치하는지 암호학적으로 검증할 수 있도록 설계되었습니다. 이는 앤트로픽이나 오픈AI(OpenAI)처럼 모델 가중치를 비공개로 유지하는 기업들도 상업용 모델에 이 시스템을 적용할 수 있게 합니다. 또한, 검증 과정이 가볍게 설계되어 사용자 기기에서 로컬로 수행될 수 있으며, 앤트로픽은 이 시스템의 상세 기술 사양과 작동 코드를 오픈소스 라이선스로 깃허브(GitHub)에 공개했습니다.
이 시스템은 AI 업계의 투명성과 신뢰도를 크게 높일 잠재력을 가지고 있습니다. 예를 들어, AI 기업이 비용 절감을 위해 저렴한 모델을 몰래 사용하거나, 성능을 부풀리기 위해 더 비싼 모델을 사용했다고 주장하는 행위를 방지할 수 있습니다. 또한, 특정 소프트웨어 라이브러리가 최첨단 사이버 보안 모델에 의해 스캔되었다거나, 사업 계획이 적절한 AI 모델의 승인을 받았다는 제3자의 주장을 사용자가 직접 검증할 수 있게 됩니다. 앤트로픽은 아직 이 시스템을 자사 모델에 배포할 계획은 없으며, 이번 공개는 중간 연구 성과를 공유하고 다른 이들의 참여와 개선을 독려하기 위함이라고 밝혔습니다.