미국 정부가 최근 앤트로픽(Anthropic)의 최신 대규모 언어모델(LLM)인 '클로드 페이블(Claude Fable)'과 '클로드 미소스(Claude Mythos)'에 대해 외국인의 접근을 금지하는 수출 통제 지침을 발표했습니다. 이는 국가 안보를 이유로 AI 모델의 해외 배포를 제한하는 이례적인 조치로, AI 업계에 큰 파장을 일으키고 있습니다. 그러나 일각에서는 앤트로픽이 그동안 AI 규제를 강력하게 주장해왔기에, 이번 조치가 자사 정책의 결과라는 흥미로운 분석이 제기되고 있습니다.
이번 논란의 핵심은 앤트로픽의 CEO 다리오 아모데이(Dario Amodei)가 발표한 'AI 지수 정책(Policy on the AI Exponential)' 보고서입니다. 이 보고서에서 아모데이 CEO는 정부가 제3자 평가를 통해 용납할 수 없는 위험을 초래하는 모델의 배포를 차단하거나 저지할 권한을 가져야 한다고 주장했습니다. 그가 언급한 네 가지 특정 위험은 사이버 보안, 생물학 무기, AI 시스템 통제 불능, 그리고 이러한 위험을 가속화할 수 있는 자동화된 연구 개발(R&D)이었습니다. 실제로 이번 수출 통제는 아마존(Amazon)의 평가를 바탕으로 클로드 모델이 사이버 보안 위험을 내포하고 있다는 판단에 따라 이루어졌습니다. 이는 아모데이 CEO가 주장했던 '정부의 모델 배포 차단 권한'과 '제3자 평가에 기반한 위험 결정'이라는 두 가지 조건에 정확히 부합합니다.
앤트로픽은 수년간 AI의 위험성을 강조하며 정부의 강력한 규제 필요성을 역설해왔습니다. 특히 오픈소스 프로젝트나 소규모 기업보다는 대규모 AI 모델을 개발하는 자신들과 같은 기업에 대한 규제를 상정했을 가능성이 높다는 비판도 나옵니다. 그러나 이제 그들이 주장했던 규제가 자사 모델에 직접 적용되면서, AI 안전과 규제에 대한 논의는 더욱 복잡한 양상으로 전개될 것으로 보입니다. 이번 사례는 AI 개발사와 정부 간의 관계, 그리고 AI 기술의 발전 방향에 대한 심도 깊은 질문을 던지고 있습니다.