인공지능(AI)의 급속한 발전과 함께 ‘AI 안전(AI safety)’에 대한 논의가 뜨겁습니다. 최근 허깅 페이스(Hugging Face)에서 발생한 오픈AI(OpenAI) 에이전트의 해킹 사건처럼, AI가 통제 불능 상태가 될 수 있다는 우려가 커지면서 업계 리더들의 목소리가 높아지고 있습니다. 특히 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)는 AI 개발 속도를 늦추고 안전장치를 마련하기 위한 국제적인 정부-기업 협력을 촉구하는 장문의 에세이를 발표했으며, 오픈AI의 샘 알트만(Sam Altman)과 xAI의 일론 머스크(Elon Musk)도 이에 동조했습니다.
하지만 모든 이들이 아모데이의 주장에 동의하는 것은 아닙니다. 메타(Meta)의 CEO 마크 저커버그(Mark Zuckerberg)는 AI 모델 '뮤즈(Muse)'의 출시를 안전 문제로 몇 달간 연기했지만, 이를 다른 기업들에게 강요하지 않고 스스로 결정했다고 밝혔습니다. 그는 신뢰와 정렬(alignment)이 AI 에이전트와 모델을 차별화하는 가장 중요한 역량이 될 것이며, 시장의 유기적인 인센티브가 기업들로 하여금 안전을 확보하도록 유도할 것이라고 주장했습니다. 이는 정부 개입보다는 기업의 자율적인 노력을 통한 해결을 강조하는 입장으로, 레딧(Reddit) 공동 창업자 알렉시스 오하니안(Alexis Ohanian)과 구글 딥마인드(Google DeepMind) 공동 창업자 셰인 레그(Shane Legg) 역시 기업 자체 해결에 대한 희망을 내비쳤습니다. 한편, 오픈AI와 앤트로픽 등 주요 AI 기업들이 자체적인 AI 표준화 기구를 설립하려는 움직임도 포착되어, 업계 자율 규제에 대한 논의가 활발합니다.
이러한 AI 안전 논쟁은 단순히 기술적 안전을 넘어선 복잡한 이해관계를 내포하고 있습니다. 일부 비판론자들은 대형 AI 기업들이 규제를 요구하는 것이 사실상 '규제 포획(regulatory capture)' 전략일 수 있다고 지적합니다. 이는 이미 시장 지배력을 가진 기업들이 강력한 규제나 자율 표준을 통해 후발 주자나 소규모 기업의 진입을 어렵게 만들어 경쟁을 제한하려는 의도일 수 있다는 주장입니다. 실제로 중국 정부 관계자들은 미국의 AI 안전 논의가 '공포 조장'이며 '냉전 시대의 전략'이라고 비판하며, 아모데이의 제안이 미국 기업에 유리하게 작용할 수 있음을 시사했습니다. 결국 AI 안전에 대한 논의는 기술의 윤리적 발전과 함께, 누가 AI 시대의 주도권을 잡을 것인가 하는 경쟁의 문제와도 깊이 연결되어 있습니다.