마이크로소프트(Microsoft)의 CEO 사티아 나델라(Satya Nadella)가 최근 CNBC와의 인터뷰에서 인공지능(AI) 기술에 인간이 제어할 수 있는 '비상 브레이크(emergency brake)'가 반드시 필요하다고 역설했습니다. AI의 급속한 발전과 확산 속에서 잠재적인 위험을 관리하고, 인간의 통제권을 확보하는 것이 중요하다고 강조한 것입니다. 이는 AI 기술의 윤리적 사용과 안전성 확보에 대한 업계 리더들의 깊은 고민을 반영합니다.
나델라 CEO는 AI가 인류에게 가져올 막대한 혜택을 인정하면서도, 예측 불가능한 상황이나 의도치 않은 결과를 초래할 가능성에 대해 경고했습니다. 그는 AI 시스템이 특정 임계점을 넘어서거나 오작동할 경우, 인간이 즉시 개입하여 시스템을 멈출 수 있는 명확한 메커니즘이 필요하다고 설명했습니다. 이러한 '비상 브레이크'는 단순히 기술적 장치를 넘어, AI 개발 및 배포 과정 전반에 걸쳐 인간 중심의 통제 원칙을 확립해야 한다는 의미로 해석됩니다.
이번 발언은 AI 안전에 대한 전 세계적인 논의가 활발해지는 가운데 나왔습니다. 많은 전문가와 정책 입안자들은 AI의 자율성이 증대될수록 사회적, 경제적, 윤리적 파급력이 커질 수 있다고 우려하고 있습니다. 나델라 CEO의 메시지는 마이크로소프트와 같은 선도적인 AI 기업들이 기술 혁신과 더불어 책임감 있는 개발을 위해 노력하고 있음을 보여주며, AI 거버넌스(governance)와 규제 프레임워크 마련의 중요성을 다시 한번 상기시킵니다.