최근 프런티어 AI(Frontier AI)의 급격한 발전 속도를 늦추기 위한 새로운 규제 방안으로, 대중에게 제공되는 모든 AI 모델의 가중치(weights)를 법적으로 공개하도록 의무화하자는 제안이 나왔습니다. 이는 기존의 규제 방식들이 대기업에 유리하게 작용하거나 규제 포획(regulatory capture)으로 이어질 수 있다는 비판적 시각에서 출발했습니다. 제안자들은 모델 가중치의 독점성에 기반한 AI 기업들의 가치를 약화시켜, 궁극적으로 AI 연구 개발에 투입되는 자금을 줄여 전체적인 개발 속도를 늦출 수 있다고 주장합니다.
이 공개서한은 앤트로픽(Anthropic)의 CEO인 다리오 아모데이(Dario Amodei)에게 이러한 법안을 지지할 것을 촉구하고 있습니다. 서한은 다리오가 과거 오픈AI(OpenAI)를 떠나 앤트로픽을 설립하며 안전을 최우선 가치로 삼았던 이력과, 앤트로픽의 공익법인(PBC) 구조가 단기적 이익보다 사명을 우선시할 수 있다는 점을 근거로 들었습니다. 제안된 의무화는 모든 학습 모델이 아닌, 대중에게 제공되는 모델에만 적용되며, 내부용 및 연구용 모델은 제외하고 정부의 미출시 모델 접근은 허용하는 방식입니다. 이는 앤트로픽이 자사 모델인 페이블(Fable)의 가중치를 공개하고, 오픈AI가 아스트라(Astra)에 대해 같은 의무를 이행하며, 다른 모든 기업도 예외 없이 따르도록 하는 것을 목표로 합니다.
이러한 가중치 공개 의무화 제안은 AI 산업에 상당한 파장을 일으킬 수 있습니다. 가중치 공개는 오픈소스 AI 생태계를 활성화하고 투명성을 높일 수 있다는 긍정적인 측면이 있지만, 동시에 기업들이 독점적 기술을 통해 얻는 경쟁 우위를 상실하게 만들어 투자 유치를 어렵게 할 수 있습니다. 비판론자들은 가중치 공개가 오히려 최첨단 모델의 일반 공개를 중단시키고, 기업들이 모델을 내부적으로만 활용하게 만들어 혁신을 저해할 수 있다고 우려합니다. 또한, 공개된 모델이 악용될 위험도 간과할 수 없다는 지적도 나옵니다. 결국 이 제안은 AI 개발 속도와 안전성, 그리고 산업 생태계 전반에 대한 근본적인 질문을 던지고 있습니다.