최근 미국 기업들 사이에서 중국산 개방형(open-weight) AI 모델의 성능과 인기가 높아지면서, 이에 대한 안보 우려와 규제 논의가 뜨거워지고 있습니다. 트럼프 행정부가 중국 모델 금지를 검토할 수 있다는 관측까지 나오는 상황에서, 오픈AI(OpenAI)나 앤트로픽(Anthropic) 같은 미국 독점 모델 개발사들은 중국 모델의 저렴한 추론(inference) 비용에 위협을 느끼고 있습니다. 그러나 미국 오픈소스 AI 기업 아르시(Arcee)의 CTO 루카스 앳킨스(Lucas Atkins)는 중국 모델이 본질적으로 위험하지 않다고 주장하며, 오히려 미국이 개방형 생태계를 육성해야 한다고 강조했습니다.
앳킨스 CTO는 중국의 개방형 모델이 악의적인 의도를 가지고 코딩된 '중국 소프트웨어 프로그램'과 다르다고 설명합니다. 그는 모델이 학습되는 방식상, 아르시나 알리바바(Alibaba) 같은 개발사가 사용자의 자체 환경에서 실행되는 모델에 접근할 수 있는 방법은 없다고 단언했습니다. 비록 이들 모델이 '오픈 웨이트(open-weight)'로 완전한 오픈소스는 아니지만, 허깅 페이스(Hugging Face)와 같은 오픈소스 사이트에서 다운로드되는 소스 코드(서버에서 실제로 실행되는 부분)는 대부분 공개되어 검토 가능합니다. 대규모 조직들은 어떤 모델이든 자체 보안 테스트 및 검사 프로세스를 거치며, 특정 용도에 맞게 모델을 사후 학습(post-train)하면서 편향, 유해성, 환각 현상 등을 검토할 수 있어 안전하게 활용할 수 있다는 설명입니다.
코딩용 모델이 악성 백도어를 생성할 가능성에 대해서도 앳킨스 CTO는 이론적으로는 가능하지만, 이를 실제로 구현하기는 매우 어렵다고 지적했습니다. 대규모 언어모델(LLM)은 본질적으로 창의적이기 때문에, 특정 컨텍스트와 프롬프트 조합으로 악성코드를 생성하게 만들 확률은 극히 낮다는 것입니다. 또한, 기업들은 AI 애플리케이션을 모델에 구애받지 않도록(model-agnostic) 구축하고 여러 모델을 함께 사용하는 경향이 있어, 특정 중국 모델에 영원히 종속될 위험도 적습니다. 앳킨스 CTO는 중국 모델을 금지하기보다는 미국 내에서 건전한 오픈 생태계를 육성하는 데 초점을 맞춰야 한다고 주장하며, 중국 모델로부터 배우고 그 위에 구축하며 더 나은 모델을 출시하는 것이 진정한 경쟁력이라고 강조했습니다.