인공지능(AI) 선도 기업 앤트로픽(Anthropic)이 최근 불거진 오픈 웨이트(Open-weight) 모델 전면 금지 논의에 대해 반대 입장을 분명히 했습니다. 일부 미국 관료들이 중국산 오픈 웨이트 모델 사용 금지를 검토한다는 보도가 나온 가운데, 앤트로픽은 위험한 능력이 없는 오픈 웨이트 모델은 AI 생태계에 가치를 더하는 공공재이며, 이를 일괄적으로 금지하는 것은 바람직하지 않다고 주장합니다. 이들은 진정한 국가 안보 위협은 오픈 웨이트 모델 자체보다는 권위주의 정부의 AI 우위 확보와 강력한 AI 모델의 오용 가능성에 있다고 지적했습니다.
앤트로픽은 오픈 웨이트 모델이 안전장치 적용이나 사용 감시가 어렵고 배포 후 회수가 불가능해 위험이 커질 수 있다는 점은 인정합니다. 하지만 미국 기업의 사용을 금지하는 것만으로는 악의적인 행위자를 막기 어렵다고 봅니다. 대신 중국에 대한 고성능 칩 및 제조 장비 수출 차단, 산업 규모의 모델 증류(distillation) 단속, 그리고 공개·비공개 모델을 포괄하는 능력 기반의 의무 안전성 테스트를 대안으로 제시했습니다. 특히, 모델 증류는 적은 컴퓨팅 자원으로도 고성능 모델을 만들 수 있게 해 칩 통제의 효과를 약화시킬 수 있으므로, 이에 대한 정책적 개입이 필요하다고 강조합니다.
이러한 앤트로픽의 입장은 단순히 자사 사업 보호를 넘어 AI 기술의 책임감 있는 발전에 대한 깊은 고민을 보여줍니다. 오픈 웨이트 모델의 확산은 AI 기술 접근성을 높여 혁신을 촉진할 수 있지만, 동시에 오용 가능성도 내포합니다. 앤트로픽은 특히 생물학 분야에서 AI가 공격자에게 유리한 비대칭적 상황을 만들 수 있다고 경고하며, 출시 전 엄격한 실증 테스트를 통해 위험을 평가해야 한다고 주장합니다. 이는 AI 기술의 잠재적 위험에 대한 선제적 대응과 국제적 협력의 중요성을 시사하며, AI 거버넌스 논의에 중요한 화두를 던지고 있습니다.