앤트로픽(Anthropic)이 수주간의 트럼프 행정부와의 협상 끝에, 소비자용 대규모 언어모델(LLM)인 클로드 Fable 5의 서비스 재개를 승인받았습니다. 이로써 Fable 5는 클로드 플랫폼을 통해 전 세계 사용자에게 다시 제공될 예정이며, AWS, 구글 클라우드, 마이크로소프트 파운드리(Foundry) 등 클라우드 파트너를 통한 접근도 곧 재개될 것입니다. 이는 AI 모델의 배포에 있어 정부 규제와 안전성 확보가 얼마나 중요한지를 보여주는 사건입니다.
Fable 5는 앤트로픽의 Mythos 5와 동일한 기반 기술을 사용하지만, 소비자용으로 더 많은 안전 장치를 탑재한 모델입니다. 지난 6월 초, 트럼프 행정부는 Fable 5와 Mythos 5에 대해 '탈옥(jailbreak)' 가능성에 대한 우려로 수출 통제 지침을 발령하며 서비스 중단을 명령했습니다. 이 지침은 비미국인(외국인)의 모델 사용을 금지하는 내용을 포함했으며, 이는 앤트로픽이 야심 차게 홍보했던 두 모델의 배포에 큰 타격을 주었습니다. 앤트로픽은 아마존(Amazon) 연구원들이 지적한 탈옥 문제를 해결하기 위해 개선된 안전 분류기(safety classifier)를 훈련하여 해당 동작을 99% 이상 차단할 수 있게 되었다고 밝혔습니다. 또한, 요청이 차단될 경우 사용자에게 알리고 Opus 4.8로 전환하는 조치도 도입했습니다.
이번 재개 승인은 앤트로픽이 정부와의 관계 개선을 위해 적극적으로 노력한 결과입니다. 앤트로픽은 정부와의 긴밀한 협력을 위한 새로운 계획을 발표했는데, 여기에는 국가 안보 관련 모델에 대한 사전 공개 정부 접근 및 평가, 중대한 탈옥이나 오용 패턴 식별 시 신속한 정보 공유, 그리고 AI 보안 및 평가를 위한 자발적인 공동 표준 마련 등이 포함됩니다. 이는 AI 산업 전반에 걸쳐 모델 개발사와 정부 간의 투명성과 협력의 중요성이 더욱 커지고 있음을 시사합니다. 특히, AI 모델의 잠재적 위험에 대한 사회적 우려가 증가하면서, 기술 혁신과 동시에 안전성 및 책임감을 확보하는 것이 기업의 핵심 과제가 되고 있습니다.