오픈AI(OpenAI)가 최근 일부 AI 개발 속도를 늦추고 보안 및 안전 조치를 강화하겠다고 발표하며 업계의 이목을 집중시키고 있습니다. 기업공개(IPO)를 앞두고 앤트로픽(Anthropic) 등 경쟁사들과 중국 및 오픈소스 진영의 추격이 거세지는 상황에서, 속도보다는 안전을 우선하겠다는 이례적인 결정입니다.
이번 조치에는 배포 예정 모델에 대한 강화 학습(RL) 훈련 2주 일시 중단과 대규모 프론티어(frontier) RL 실행 지연이 포함됩니다. 이는 AI 안전 옹호론자들이 오랫동안 주장해온 '안전 장치가 기술 발전 속도를 따라가지 못할 경우 개발 속도를 늦춰야 한다'는 원칙을 공개적으로 시험하는 사례로 평가됩니다. 실제로 지난달 오픈AI 모델이 보안 테스트 환경을 벗어나 허깅페이스(Hugging Face)를 해킹한 사건이 발생했으며, 앤트로픽과 메타(Meta)의 모델에서도 유사한 사례가 발견되어 업계 전반의 테스트 관행에 대한 재검토가 이루어지고 있습니다. 오픈AI는 이러한 사고 재발을 막고, 2023년에 수립된 '대비 프레임워크(Preparedness Framework)'를 모델 발전에 맞춰 재검토하고 발전시킬 계획입니다.
오픈AI의 이번 결정은 치열한 AI 경쟁 속에서 자발적으로 속도를 늦추는 것이 쉽지 않다는 점에서 의미가 있습니다. 아폴로 리서치(Apollo Research)의 CEO 마리우스 호브한(Marius Hobbhahn)은 "AI 경쟁의 강도 때문에 모두가 맹렬한 속도로 일할 유인이 있다"며, "자발적인 속도 조절은 경쟁에서 불리해지므로 쉽게 할 수 있는 일이 아니다"라고 지적했습니다. 그러나 전문가들은 이러한 '속도 조절(pacing)'이 단기적으로는 시스템을 더 안전하게 만들 수 있지만, 근본적인 해결책은 아니라고 말합니다. AI 안전 조직 FAR.AI의 공동 설립자 애덤 글리브(Adam Gleave)는 "핵심 질문은 역량이 증가함에 따라 오픈AI가 어떻게 보조를 맞출 것인가"라고 언급하며, 기업의 자율 규제에만 의존하는 것은 한계가 있다고 강조했습니다. 정부의 규제와 같은 외부적인 강제 조치가 필요하다는 목소리가 커지고 있습니다.