최근 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO가 AI 개발 속도 조절의 필요성을 역설하며 '프론티어 AI(frontier AI)' 기업들에 대한 제3자 평가 의무화 등 규제를 촉구했습니다. 이에 대해 한 개발자가 다리오 CEO에게 공개 서한을 보내, 진정으로 AI 개발 속도를 늦추고 싶다면 '공개 가중치(open weights)' 의무화를 주장해야 한다고 제안했습니다. 이는 앤트로픽과 같은 선도 기업들이 대중에게 공개하는 모든 AI 모델의 가중치(weights)를 오픈소스로 공개해야 한다는 파격적인 요구입니다.
서한의 핵심 주장은 현재 프론티어 AI 모델 개발 자금은 가중치가 독점적으로 유지된다는 가정 하에 책정되는 기업 가치에 의존하고 있다는 점입니다. 만약 가중치가 공개된다면 이러한 가정이 깨져 미래 모델 학습에 필요한 자금 조달이 어려워지고, 결과적으로 규제 당국의 직접적인 개입 없이도 모든 연구소의 AI 개발 속도를 늦출 수 있다는 논리입니다. 또한, 서한은 다리오 CEO가 제안한 대부분의 규제는 기술적 복잡성 때문에 결국 대기업에 유리한 '규제 포획(regulatory capture)'으로 이어져 오히려 시장 진입 장벽을 높이고 대기업의 독점적 지위를 강화할 것이라고 비판했습니다. 반면, 공개 가중치는 이러한 규제 포획의 위험 없이 AI 개발 속도를 실질적으로 늦출 수 있는 방법으로 제시되었습니다.
이 제안은 AI 안전과 규제에 대한 논의에 중요한 시사점을 던집니다. 다리오 아모데이 CEO는 과거 오픈AI(OpenAI)를 떠나 앤트로픽을 설립하며 AI 안전을 최우선 가치로 삼았고, 자신의 시장을 축소할 수 있는 수출 통제를 지지하는 등 신념을 위해 희생을 감수해 온 인물로 평가받습니다. 앤트로픽이 공익 법인(Public Benefit Corporation, PBC) 형태를 취하고 있다는 점도 이러한 '사명 우선' 결정을 내릴 수 있는 근거로 언급됩니다. 만약 앤트로픽이 이 제안을 받아들여 공개 가중치 의무화를 주장한다면, 이는 AI 업계에 전례 없는 변화를 가져올 수 있으며, AI 개발의 투명성과 접근성을 높여 잠재적으로 더 많은 혁신과 안전한 AI 생태계 구축에 기여할 수 있을 것입니다.