앤트로픽이 자사의 최신 고성능 대규모 언어모델(LLM)인 미토스(Mythos) 및 페이블(Fable) 모델에 대해 사용자 프롬프트와 생성된 출력 데이터를 30일간 보관하는 정책을 도입했습니다. 이는 모델의 책임감 있는 배포와 안전 운영을 강화하기 위한 조치로, 특히 데이터 보안에 민감한 기업 고객들의 제로 데이터 보존(ZDR) 설정에 변화를 요구하고 있습니다.
이번 정책은 미토스급 모델과 유사한 역량을 가진 향후 모델에도 적용될 예정입니다. 앤트로픽은 클로드 미토스 5(Claude Mythos 5)와 페이블 5(Fable 5)가 이전 모델보다 크게 향상된 역량을 가졌으며, 이로 인해 악의적인 목적으로 오용될 가능성도 커졌다고 설명합니다. 특히 여러 요청에 걸쳐 발생하는 복합적인 오용 패턴이나 국가 지원 스파이 활동, 데이터 갈취 캠페인 등 대규모 위협을 탐지하기 위해서는 임시적인 데이터 보관 및 분석이 필수적이라는 입장입니다. 소비자 요금제(Claude Free, Pro, Max)는 이미 안전 목적으로 입력·출력 데이터가 보관되고 있었으므로 이번 변경의 영향을 받지 않습니다. 그러나 클로드 콘솔(Claude Console)에서 ZDR 워크스페이스를 설정한 조직, 클로드 엔터프라이즈(Claude Enterprise)의 ZDR 기반 클로드 코드(Claude Code) 사용자, 그리고 AWS 베드록(Bedrock), 구글 클라우드 에이전트 플랫폼(Google Cloud Agent Platform), 마이크로소프트 파운드리(Microsoft Foundry)를 통해 ZDR로 클로드에 접근하는 조직은 해당 모델 사용을 위해 데이터 보관 설정을 활성화해야 합니다.
앤트로픽은 보관된 데이터가 새로운 클로드 모델 학습에 사용되지 않으며, 안전 관련 목적 외에는 활용되지 않는다고 강조했습니다. 또한, 데이터 접근은 소수의 승인된 검토자에게만 허용되며, 모든 접근 기록은 변조 방지 로그에 기록되는 등 엄격한 개인정보 보호 및 보안 조치가 적용된다고 밝혔습니다. 30일 후에는 데이터가 자동으로 삭제되지만, 안전 조사에 속하거나 법적 보관 의무가 있는 예외적인 경우에는 더 오래 보관될 수 있습니다. 이러한 정책 변화는 고성능 인공지능(AI) 모델의 잠재적 위험에 대한 업계의 인식이 높아지고 있음을 보여주며, AI 안전과 개인정보 보호 사이의 균형을 찾는 중요한 과제로 부상하고 있습니다. 기업 고객들은 AI 도입 시 모델의 성능뿐만 아니라 데이터 정책과 보안 수준을 더욱 면밀히 검토해야 할 필요성이 커졌습니다.