앤트로픽(Anthropic)이 자사의 최신 대규모 언어모델(LLM)인 페이블(Fable)과 미토스(Mythos)를 둘러싼 논란의 중심에 섰습니다. 앤트로픽은 미토스 프리뷰(Mythos Preview)를 공개하며 사이버 보안 역량 때문에 너무 위험해서 일반에 공개할 수 없다고 경고한 지 불과 두 달 만에, 안전 장치를 추가한 페이블을 출시했습니다. 그러나 이 모델이 출시된 직후, 안전 장치가 탈옥(jailbreak)될 수 있다는 문제가 제기되었고, 이는 미국 정부의 전례 없는 개입으로 이어졌습니다.
미국 정부는 국가 안보를 이유로 모든 외국인의 페이블 5(Fable 5)와 미토스 5(Mythos 5) 접근을 즉시 중단하라는 수출 통제 지침을 앤트로픽에 내렸습니다. 여기에는 미국 내외의 외국인 앤트로픽 직원까지 포함됩니다. 앤트로픽은 정부의 지침이 특정 국가 안보 우려에 대한 구체적인 설명을 제공하지 않았으며, 발견된 탈옥 기술은 다른 공개 모델로도 탐지 가능한 사소한 취약점을 식별하는 데 사용되었다고 주장했습니다. 이 탈옥 시도는 앤트로픽의 투자사이자 주요 추론(inference) 제공업체인 아마존(Amazon)에 의해 보고된 것으로 알려졌습니다.
이번 사태는 앤트로픽의 '안전 우선' 전략과 상업적 이익 사이의 복잡한 관계를 드러냅니다. 앤트로픽은 모델의 위험성을 강조하며 신중한 출시를 정당화했지만, 동시에 시장 경쟁에서 뒤처지지 않기 위해 모델을 출시해야 하는 경제적 압박에 직면해 있습니다. 대규모 언어모델 개발에는 막대한 비용이 들지만, 일단 출시되면 오픈소스 모델에 의해 빠르게 상품화되는 경향이 있어 프론티어 AI 연구소들은 사용자 접점을 확보하기 위해 노력하고 있습니다. 이번 정부의 조치는 AI 기술의 발전 속도와 그에 따른 잠재적 위험 사이에서 규제 당국이 얼마나 민감하게 반응하는지를 보여주며, 앞으로 AI 개발사와 정부 간의 갈등이 더욱 심화될 수 있음을 시사합니다.