앤트로픽(Anthropic)의 공동 창업자이자 CEO인 다리오 아모데이(Dario Amodei)가 최근 업계에서 제기된 '앤트로픽이 오픈웨이트(open-weight) 모델 금지를 지지한다'는 소문에 대해 공식적으로 반박했습니다. 그는 "앤트로픽은 오픈웨이트 모델 금지를 옹호한 적이 없다"고 분명히 밝히며, 오픈웨이트 모델이 위험한 기능을 포함하지 않는 한 기업, 개발자, 연구자에게 가치를 제공하는 '공공재'라고 강조했습니다.
아모데이 CEO의 이번 발언은 엔비디아(Nvidia)의 젠슨 황(Jensen Huang) CEO를 비롯한 주요 AI 기업들이 오픈웨이트 AI 모델에 대한 성급한 규제에 반대하는 공개 서한을 발표한 직후 나왔습니다. 이 서한은 중국을 직접 언급하지 않았지만, 업계에서는 중국 AI 연구소들이 미국 기업의 지적 재산을 탈취하여 역량을 키우고 있다는 의혹이 제기되어 왔습니다. 아모데이 CEO는 오픈웨이트 모델 자체의 위협보다는 중국과 같은 권위주의 정부가 미국보다 강력한 AI 모델을 개발하여 '영구적인 군사적 우위'를 확보하거나 자국민을 억압하는 데 사용할 수 있다는 점을 더 크게 우려한다고 밝혔습니다. 그는 특히 중국 공산당(CCP)이 가장 유능한 권위주의 정부라고 지목하며, AI가 사이버 공격을 넘어 '생물학적 공격'을 가능하게 할 수 있다는 점도 경고했습니다.
아모데이 CEO는 이러한 위협에 대응하기 위한 방안으로 중국의 고성능 칩 접근을 제한하고(이는 미국 정부의 오랜 정책이기도 합니다), AI 모델의 작동 방식을 모방하는 '증류(distillation)' 방식에 대한 공식적인 단속을 촉구했습니다. 또한, 그는 전 세계가 참여하는 AI 안전 테스트 기관 설립을 지지하며, 심지어 중국까지도 생물학적 무기 방지 등 특정 분야에서는 협력할 가능성이 있다고 언급했습니다. 이는 오픈소스 옹호론자들이 주장하는 '강력한 오픈 모델에 대한 접근이 방어자들에게 도움이 된다'는 주장과는 상반되는 관점이지만, 아모데이 CEO는 일단 공개된 오픈웨이트 모델은 회수하기 어렵기 때문에 위험 시나리오에서 더 위험할 수 있다고 보고 있습니다.