최근 앤트로픽(Anthropic) 연구원의 종말론적 경고로 AI 업계가 술렁인 가운데, 앤트로픽의 CEO 다리오 아모데이(Dario Amodei)가 AI 개발 속도를 조절(Pace the Frontier)하자는 구체적인 계획을 제시했습니다. 이는 AI의 잠재적 위험에 대한 우려가 커지면서, 기술 발전의 속도와 방향을 어떻게 통제할 것인가에 대한 업계 전반의 질문에 답하려는 시도로 보입니다.
아모데이의 제안은 크게 두 가지 축으로 이루어져 있습니다. 첫째, 독립적인 안전 평가 기관을 통해 AI 모델의 위험성을 객관적으로 검증하자는 것입니다. 둘째, 민주주의 국가 내 AI 연구소들 간의 긴밀한 협력을 통해 AI 개발의 윤리적 기준과 안전 프로토콜을 공동으로 마련하자는 내용입니다. 이러한 제안은 이미 일부 업계의 지지를 얻고 있지만, 엔비디아(Nvidia)의 젠슨 황(Jensen Huang) CEO는 공개적으로 반대 의사를 표명하며 논쟁을 촉발시켰습니다. 황 CEO는 AI 기술 발전의 속도를 인위적으로 늦추는 것에 대한 회의적인 시각을 드러낸 것으로 알려졌습니다.
이번 논의는 AI 기술이 사회에 미치는 영향이 점차 커지면서, 단순히 기술 개발을 넘어선 거버넌스(governance)와 윤리적 책임에 대한 중요성을 부각시키고 있습니다. AI 안전에 대한 합의된 기준을 마련하고, 이를 실제로 적용할 수 있는 효과적인 방안을 찾는 것은 모든 AI 개발 기업과 정책 입안자들에게 주어진 시급한 과제입니다. 앞으로 AI 개발 속도 조절에 대한 업계의 합의가 이루어질지, 그리고 누가 이 과정을 주도하고 규제할 것인지에 대한 논의는 더욱 활발해질 것으로 예상됩니다.