최근 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)가 최첨단 인공지능(AI) 개발에 일종의 '속도 제한(speed limit)'을 두어야 한다고 주장했습니다. 이는 AI 모델이 너무 빠르게 발전하면서 발생할 수 있는 잠재적 위험을 관리하고, 안전성을 충분히 확보할 시간을 벌기 위한 제안입니다. 이 발언은 AI 기술의 급진적인 발전 속도에 대한 업계 내부의 깊은 우려를 반영하고 있습니다.
아모데이 CEO는 특정 규모 이상의 AI 모델을 개발할 때 정부의 허가와 감독을 받아야 한다고 강조했습니다. 그는 AI 모델의 학습에 필요한 컴퓨팅 자원(예: GPU) 사용량에 상한선을 두거나, 특정 성능 기준을 넘어서는 모델에 대해 추가적인 안전성 검증을 의무화하는 방안을 제시했습니다. 이는 AI 개발사들이 경쟁적으로 더 강력한 모델을 내놓는 과정에서 안전성 검토가 소홀해질 수 있다는 점을 경계하는 것으로 보입니다. 앤트로픽은 안전하고 책임감 있는 AI 개발을 최우선 가치로 삼는 회사로 알려져 있습니다.
이러한 제안은 AI 기술이 인류에게 가져올 수 있는 긍정적인 영향과 함께, 예측 불가능한 위험에 대한 경각심이 높아지고 있음을 시사합니다. AI 개발 속도 제한은 기술 혁신을 저해할 수 있다는 비판도 있지만, 장기적인 관점에서 AI의 안전한 발전을 위한 필수적인 논의로 자리 잡을 가능성이 큽니다. 앞으로 각국 정부와 AI 개발사들이 어떻게 협력하여 안전한 AI 생태계를 구축해 나갈지 주목됩니다.