최근 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)가 '우리는 개척 속도를 조절해야 한다(We Must Pace the Frontier)'는 제목의 장문의 에세이를 발표하며 인공지능(AI) 개발 속도 조절에 대한 논의에 불을 지폈습니다. 이 에세이는 AI 안전성 확보를 위해 개발 속도를 늦춰야 한다는 주장을 담고 있으며, 이에 대해 주요 AI 기업 리더들과 정치인들이 찬반 입장을 쏟아내며 격렬한 논쟁이 벌어지고 있습니다.
아모데이는 AI 개발 속도 조절을 위한 세 가지 방안을 제시했습니다. 첫째, 제3자 평가 기관을 통해 기업의 안전성 준수 여부를 검증하고 사고를 보고하는 시스템을 구축해야 합니다. 둘째, 민주주의 국가의 선도적인 AI 기업들이 표준과 한계에 대해 협력해야 합니다. 셋째, 민주주의 정부와 권위주의 정부 간의 글로벌 협력을 통해 AI 개발 속도를 조절해야 한다고 강조했습니다. 앤트로픽은 이 중 첫 번째 단계에 대해 일방적으로 참여하겠다고 밝혔습니다. 오픈AI(OpenAI)의 샘 알트만(Sam Altman) CEO 역시 아모데이의 주장에 공감하며 독립적인 평가 기관 도입에 찬성했고, 구글 딥마인드(Google DeepMind) 공동 창업자 데미스 하사비스(Demis Hassabis)와 스페이스X(SpaceX)의 일론 머스크(Elon Musk)도 아모데이의 의견에 동조했습니다. 이들은 모두 '속도 조절'이 '중단'을 의미하는 것은 아니며, 안전성 확보를 위한 적절한 시간 확보를 강조했습니다.
반면, 도널드 트럼프(Donald Trump) 전 미국 대통령은 AI 개발 속도 조절에 반대하며, 이는 중국에 대한 미국의 경쟁력 약화를 초래할 수 있다고 주장했습니다. 그는 강력한 리더십이 AI 통제에 필요하며, 이미 정부가 기업들을 규제할 권한을 가지고 있다고 언급했습니다. 케빈 매카시(Kevin McCarthy) 하원의장 등 일부 정치인들도 중국과의 AI 경쟁에서 뒤처질 수 있다는 우려를 표하며, AI 개발 중단보다는 안전성과 국가 안보의 균형을 찾아야 한다고 강조했습니다. 이처럼 AI 개발 속도 조절에 대한 논의는 기술적 안전성뿐만 아니라 국가 안보, 경제적 패권 등 복합적인 요인들이 얽혀 있어 쉽게 결론 내리기 어려운 상황입니다.
이번 논쟁은 AI 기술의 발전이 인류 사회에 미칠 영향에 대한 깊은 성찰과 함께, 기술 개발의 윤리적, 사회적 책임에 대한 중요성을 다시 한번 상기시키고 있습니다. AI 리더들과 정치권의 다양한 의견들은 AI 거버넌스(governance) 구축의 복잡성을 보여주며, 앞으로 국제적인 협력과 사회적 합의를 통해 AI의 안전하고 책임감 있는 발전을 위한 해법을 찾아야 할 과제를 제시하고 있습니다. 이는 AI 기술이 인류에게 가져올 잠재적 위험을 최소화하고 긍정적인 영향을 극대화하기 위한 필수적인 과정이 될 것입니다.