인공지능(AI) 안전 연구를 강조하는 스타트업 앤트로픽(Anthropic)의 CEO 다리오 아몬데이(Dario Amodei)가 정부가 특정 AI 모델의 개발을 막을 수 있어야 한다고 주장했습니다. 그는 AI 기술이 인류에게 심각한 위협이 될 수 있는 지점에 도달할 경우, 정부가 개입하여 개발을 중단시킬 권한을 가져야 한다고 강조했습니다. 이는 AI 기술 발전 속도에 대한 업계 내부의 깊은 우려를 반영하는 발언입니다.
아몬데이 CEO는 악시오스(Axios)와의 인터뷰에서, AI 모델이 너무 강력해져 통제 불능 상태에 빠지거나 인류에게 해를 끼칠 수 있는 잠재력을 가질 경우를 상정했습니다. 그는 이러한 상황에서 민주적으로 선출된 정부가 개입하여 개발을 중단시킬 수 있는 '킬 스위치(kill switch)'와 같은 역할을 해야 한다고 설명했습니다. 앤트로픽은 AI 안전 연구에 막대한 투자를 하고 있으며, '헌법적 AI(Constitutional AI)'와 같은 접근 방식을 통해 AI가 안전하고 유익한 방식으로 작동하도록 훈련하는 데 집중하고 있습니다.
이번 발언은 AI 기술의 급속한 발전이 가져올 수 있는 잠재적 위험에 대한 경고이자, 기술 기업 스스로가 아닌 외부 기관의 통제 필요성을 제기했다는 점에서 주목됩니다. 이는 AI 거버넌스(governance)와 규제에 대한 논의를 더욱 가속화할 것으로 보입니다. AI 개발의 윤리적, 사회적 책임에 대한 논의가 활발해지는 가운데, 앤트로픽과 같은 선도 기업의 이러한 입장은 향후 AI 정책 방향 설정에 중요한 영향을 미칠 것으로 예상됩니다.