미국 정부가 앤스로픽(Anthropic)의 가장 강력한 인공지능(AI) 모델 두 가지, 즉 클로드 파블 5(Claude Fable 5)와 클로드 미토스 5(Claude Mythos 5)에 대해 즉각적인 사용 중단 명령을 내렸습니다. 국가 안보 우려를 명분으로 한 이번 조치로, 앤스로픽은 전 세계 모든 사용자를 대상으로 해당 모델의 접근을 차단해야 했습니다. 앤스로픽은 정부의 명령에 따랐지만, 이번 결정이 잘못되었다는 입장을 분명히 했습니다.
이번 명령의 핵심은 '탈옥(jailbreak)' 가능성입니다. 앤스로픽에 따르면, 정부는 파블 5(Fable 5)에서 '잠재적이고 협소하며 보편적이지 않은 탈옥'이 발견되었다는 구두 증거를 제시했습니다. 이는 모델이 특정 코드베이스를 읽고 소프트웨어 취약점을 식별하도록 유도하는 수준으로, 앤스로픽은 이러한 기능이 이미 오픈AI(OpenAI)의 GPT-5.5를 포함한 다른 공개 모델에서도 널리 사용 가능하며 사이버 보안 전문가들이 방어 목적으로 일상적으로 활용한다고 반박했습니다. 특히 미토스 5(Mythos 5)는 앤스로픽이 소프트웨어 보안 취약점 발견 능력이 뛰어나다고 평가하며 '프로젝트 글래스윙(Project Glasswing)'이라는 제한된 프로그램을 통해 아마존, 애플, 구글, 마이크로소프트 등 50여 개 기관에만 제공해 온 모델입니다. 파블 5(Fable 5)는 미토스 5(Mythos 5)에 가드레일(안전장치)을 적용하여 일반에 공개한 버전으로, 출시 3일 만에 사용 중단되었습니다.
이번 사건은 AI 안전(AI safety)을 최우선 가치로 내세워 온 앤스로픽의 정체성에 큰 타격을 줄 수 있습니다. 앤스로픽은 자사 모델의 위험성을 강조하며 신중한 접근을 보여왔는데, 역설적으로 이러한 '안전 강조'가 정부의 엄격한 감시를 불러일으킨 셈입니다. 이는 샘 알트만(Sam Altman) 오픈AI CEO가 앤스로픽의 미토스(Mythos) 취급 방식을 '공포 마케팅(fear-based marketing)'이라고 비판했던 것과도 연결됩니다. 이번 사태는 AI 기술 개발 속도와 안전 규제 사이의 균형점을 찾는 것이 얼마나 어려운 과제인지를 보여주며, 향후 AI 산업 전반의 규제 방향에도 상당한 영향을 미 미칠 것으로 예상됩니다.