스타트업 액셀러레이터 Y콤비네이터(Y Combinator)의 게리 탄(Garry Tan) CEO가 미국 AI 연구소들이 선도(frontier) AI 모델의 지식을 추출하는 '증류(distillation)' 기법을 적극적으로 활용해야 한다고 주장했습니다. 그는 중국 AI 연구소들이 증류 기법을 사용하는 것에 대해 규제하기보다는, 미국 내에서도 소규모 오픈웨이트(open-weight) AI 연구소들이 선도 모델을 활용해 경쟁력 있는 모델을 만들 수 있도록 장려해야 한다고 강조했습니다.
'증류'는 대규모 AI 모델(교사 모델)의 작동 방식과 추론 과정을 학습하기 위해 해당 모델에 광범위하게 질의(프롬프트)를 던져 지식을 추출하는 기술입니다. 이는 새로운 모델을 훈련하는 데 합법적으로 사용되는 일반적인 기법입니다. 최근 앤트로픽(Anthropic)은 중국 연구소들이 신분 위장 및 도용된 자격 증명을 이용해 '불법적인 증류 공격'을 감행하고 있다고 주장하며 미국 규제 당국의 개입을 촉구했습니다. 그러나 탄 CEO는 이러한 주장에 반대하며, 오히려 미국 AI 연구소들도 자유롭게 증류 기법을 사용할 수 있어야 한다고 역설했습니다.
탄 CEO의 주장은 두 가지 핵심 논리에 기반합니다. 첫째, 그는 AI 모델 개발사들이 고객이 API 호출을 통해 얻은 정보를 어떻게 활용할지 통제하는 것은 과도한 개입이라고 봅니다. 둘째, 선도 AI 모델들이 방대한 양의 공개된 인간 지식과 심지어 저작권이 있는 자료까지 동의 없이 학습했음을 지적하며, 이렇게 구축된 지능에 대한 접근 역시 '공공재(public good)'의 형태로 더 개방되어야 한다고 주장합니다. 그는 AI의 막대한 힘이 소수의 독점적 제공업체에 집중되는 것이야말로 진정한 'AI 종말 시나리오'라고 경고하며, 오픈웨이트 AI 모델의 활성화를 통해 이러한 독점화를 막아야 한다고 강조했습니다.