최근 오픈AI(OpenAI)의 샘 올트먼(Sam Altman)과 앤스로픽(Anthropic)의 다리오 아모데이(Dario Amodei)가 최첨단 인공지능(AI) 모델의 발전 속도를 조절해야 한다고 주장하며 업계에 큰 파장을 일으켰습니다. 이에 대해 유명 벤처 투자가 데이비드 색스(David Sacks)는 자신의 트위터를 통해 "두 회사가 바로 최전선에 있으니, 정부 규제 없이 스스로 속도를 조절하면 된다"고 반박하며 논쟁에 불을 지폈습니다. 색스는 시장 점유율, 매출 성장, 모델 역량 등을 기준으로 볼 때 오픈AI와 앤스로픽이 AI 최전선에서 사실상 복점(duopoly) 구도를 이루고 있다고 지적했습니다.
색스의 주장은 AI 안전에 대한 우려와 함께, 대형 AI 기업들의 속도 조절 요구가 실제로는 규제 포획(Regulatory Capture)을 통해 신규 경쟁자의 진입을 막으려는 의도일 수 있다는 비판으로 이어졌습니다. 해커 뉴스(Hacker News)의 의견에 따르면, 대형 업체들이 자신들은 통과할 수 있지만 소규모 연구소는 넘지 못할 수준으로 규제 기준을 높여 시장 진입 장벽을 만들려 한다는 것입니다. 이는 효율적인 시장에서 이익률이 낮아지는 것을 막고, 담합을 통해 속도와 가격을 결정하려는 전략으로 해석될 수 있습니다. 과거 미국이 핵실험 금지를 통해 핵보유국 지위를 공고히 하려 했던 것과 유사하다는 비유도 나옵니다.
이러한 논쟁은 AI 기술 발전의 방향성과 사회적 책임에 대한 중요한 질문을 던집니다. AI 기업들이 주장하는 '실존적 위험'이 진정한 우려인지, 아니면 사업적 이익을 위한 전략적 발언인지에 대한 회의론도 존재합니다. 일각에서는 AI 모델의 재귀적 자기 개선(recursive self-improvement) 가능성 등 기술적 위험이 실제로 존재하지만, 동시에 대규모 연산 자원 확보 자체가 이미 진입 장벽으로 작용하고 있다는 점도 지적합니다. 결국 AI 발전 속도 조절은 단순히 기술적 문제를 넘어, 경제적, 정치적, 사회적 파급효과를 고려해야 하는 복합적인 과제임을 보여줍니다.