유명 벤처 투자가 데이비드 색스(David Sacks)가 오픈AI(OpenAI)와 앤스로픽(Anthropic)이 인공지능(AI) 개발의 최전선(frontier)에서 속도 조절을 위해 외부 규제가 필요하다는 주장에 대해 비판적인 입장을 표명했습니다. 그는 두 회사가 AI 시장에서 이미 독점적 지위를 누리고 있으며, 규제 당국의 허락 없이도 스스로 개발 속도를 늦출 수 있다고 강조했습니다. 이는 AI 안전과 책임에 대한 논의가 활발한 가운데, 업계 리더들의 자율적 결단을 촉구하는 메시지로 해석됩니다.
색스는 오픈AI의 샘 알트만(Sam Altman)과 앤스로픽의 다리오 아몬데이(Dario Amodei)가 '최전선의 속도를 조절해야 한다'는 데 동의한 점을 언급하며, 이들이 시장 점유율, 매출 성장, 모델 역량 등 모든 합리적인 지표에서 최첨단 AI 분야의 양대 산맥(duopoly)을 형성하고 있다고 지적했습니다. 그는 만약 미공개 모델들이 충분히 위험하다고 판단된다면, 외부의 허락을 기다리거나 반독점법(antitrust law) 적용 유예를 요구하며 카르텔을 형성하려 하거나, 제품 책임(product liability)을 대체할 규제 승인 절차를 주장할 필요 없이 스스로 책임감 있게 속도를 늦춰야 한다고 주장했습니다. 특히, 그는 앤스로픽 투자자 및 직원과 얽혀 있는 METR(AI 안전 평가 기관)의 독립성에 의문을 제기하며, 이들이 경쟁사를 감시하는 역할을 하는 것에 대한 비판적 시각을 드러냈습니다.
색스는 AI 개발 속도 조절의 동기가 순전히 이타적인 것이 아니라고 분석했습니다. 그는 AI 제품이 심각한 사이버 공격을 가능하게 할 경우 발생할 수 있는 막대한 제품 책임(product liability) 노출을 지적하며, 예측 불가능하거나 무단으로 작동하는 모델에 대해 시장이 이미 불이익을 주고 있다고 설명했습니다. 허깅 페이스(Hugging Face) 관련 사건 이후, 오픈AI와 앤스로픽이 순수한 성능보다는 신뢰성과 예측 가능성을 위해 일부 성능을 포기하는 것이 사업적으로 현명한 선택이라는 것입니다. 이는 고객이 원하는 바를 제공하는 것이며, '정렬(alignment)'이라고 부르든 아니든 결국 시장의 요구에 부응하는 것이라고 덧붙였습니다. 궁극적으로, 최전선의 속도를 스스로 조절하는 것은 규제에 대한 보다 지능적인 대화를 위한 여지를 만들고, 대중과 정치 시스템에 대한 협박처럼 보일 수 있는 규제 프레임워크 요구 대신 선의를 얻는 방법이 될 것이라고 색스는 강조했습니다.