앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)가 AI 규제에 대한 실리콘밸리 일각의 비판적 시각에 반박하며, 규제가 오히려 AI 권력의 분산을 촉진할 수 있다고 주장했습니다. 그는 규제가 소수의 선택된 기업과 정치인에게 권력을 집중시킨다는 주장은 잘못된 이분법적 사고라고 지적하며, 규제의 본질과 내용에 따라 그 영향이 달라질 수 있다고 강조했습니다.
아모데이 CEO는 실리콘밸리 외부에서는 규제를 기업의 권력을 제한하고 일반 대중에게 이익을 주는 것으로 본다고 설명했습니다. 그는 규제가 규제 포획(regulatory capture)으로 이어져 권력 집중을 야기한다는 시각이 지나치게 단순화된 것이라고 비판하며, 객관적이고 공정한 제도적 과정이 권력을 분산시키는 힘을 과소평가한다고 말했습니다. 앤트로픽은 이러한 철학에 따라 최첨단 AI 기업에는 불리하고 소규모 경쟁사에는 유리한 정책 제안을 신중하게 해왔다고 밝혔습니다. 예를 들어, 캘리포니아의 SB53 법안(앤트로픽 지지)은 특정 수익 또는 모델 훈련 비용 이하의 기업을 규제 대상에서 완전히 제외했으며, 최근 앤트로픽이 옹호하는 테스트 과정 역시 최첨단 모델에 더 엄격한 테스트를 요구하여 후발 주자들에게 이점을 제공합니다.
아모데이 CEO는 AI 기술 자체가 스케일링 법칙(scaling laws)의 극단적인 함의 때문에 본질적으로 권력을 집중시키는 경향이 있다고 분석했습니다. 오픈웨이트(open-weights) 모델이 어느 정도 도움이 되지만, 컴퓨팅 자원과 칩을 많이 가진 이들에게 집중을 옮길 뿐 근본적인 해결책은 아니라고 보았습니다. 그는 올바른 '규칙'이 사이버/생물/정렬(alignment) 위험을 다루고, 최첨단 AI 기업의 권력을 제도적으로 제한하며, 오픈웨이트 모델의 공간을 남겨두면서도 그 위험을 해결할 수 있다고 믿습니다. 최근 트럼프 행정부가 논의하는 배포 전 최첨단 모델 테스트 및 특정 수준에 도달한 오픈웨이트 모델 테스트 방안에 대해 매우 지지한다고 덧붙였습니다. 이러한 접근 방식은 AI 기술의 잠재적 위험을 관리하면서도, 시장의 건전한 경쟁과 혁신을 위한 균형 잡힌 환경을 조성하는 데 기여할 수 있을 것으로 기대됩니다.