최근 미국 내에서 중국산 오픈웨이트(open-weights) AI 모델 사용 금지 논의가 활발한 가운데, 선두 AI 기업 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)가 이 논의에 대한 명확한 입장을 밝혔습니다. 그는 앤트로픽이 오픈웨이트 모델 금지를 주장한 적이 없으며, 오히려 위험한 기능을 갖지 않은 오픈웨이트 모델은 기업, 개발자, 연구자에게 가치를 제공하는 '공공재'라고 강조했습니다. 보호주의적 금지 조치는 국가 안보 우려를 해결할 수 없다는 것이 그의 핵심 주장입니다.
아모데이 CEO는 자신의 가장 심각한 국가 안보 우려로 두 가지 시나리오를 제시했습니다. 첫째는 중국과 같은 권위주의 정부가 미국보다 강력한 AI 모델을 구축하여 영구적인 군사적 우위를 점하거나 자국민을 깊이 탄압하는 데 사용하는 위험입니다. 그는 이러한 모델이 오픈웨이트인지 여부는 중요하지 않으며, 비밀리에 훈련되어 군사 및 감시에 사용될 수 있다고 지적했습니다. 둘째는 강력한 AI 모델이 사이버 공격이나 생물학적 공격에 오용되거나 심각한 정렬(alignment) 문제를 일으킬 수 있는 위험입니다. 오픈웨이트 모델이 가드레일 적용이나 사용 모니터링이 어렵다는 점에서 위험이 더 높을 수 있지만, 미국 기업의 사용을 금지하는 것은 악의적인 행위자를 막지 못한다고 설명했습니다.
이러한 우려를 해결하기 위해 아모데이 CEO는 세 가지 정책적 조치를 제안했습니다. 첫째, 중국에 대한 강력한 칩 및 칩 제조 장비 판매 금지 및 밀수 단속 강화입니다. 이는 중국이 미국 칩 없이 더 강력한 모델을 구축할 수 없게 하여 첫 번째 위협을 직접적으로 차단합니다. 둘째, 산업 규모의 모델 증류(distillation) 작업 단속입니다. 증류는 칩 금지를 부분적으로 회피하며 중국이 더 나은 모델을 만들 수 있게 하므로, 이에 대한 정책적 개입이 필요하다고 강조했습니다. 셋째, 모든 충분히 강력한 모델(오픈 및 클로즈드 모두)에 대한 의무적인 안전성 테스트입니다. 사이버, 생물학적 위험 및 정렬 문제를 출시 전에 직접 테스트하는 것이 두 번째 위협을 해결하는 가장 좋은 방법이며, 이는 전 세계적인 협력이 필요하다고 덧붙였습니다.