마이크로소프트(Microsoft)의 CEO 사티아 나델라(Satya Nadella)가 최근 X(구 트위터)에 장문의 글을 올려 고도화된 인공지능(AI) 모델이 야기할 수 있는 위험과 이에 대처하는 방안에 대한 자신의 견해를 피력했습니다. 그는 더 이상 AI를 '중첩된 블랙박스(nested black boxes)'처럼 여기고 그 조언이나 행동을 맹목적으로 받아들이거나 거부해서는 안 된다고 경고했습니다.
나델라는 AI 모델이 잠재적으로 '손상(compromised)'될 수 있다고 가정하고, 초기 단계부터 이를 격리(contain)해야 한다고 주장했습니다. 그는 이를 '비상 브레이크(emergency brake)'에 비유하며, 권한 있는 사람이 언제든 AI 모델의 작업을 일시 중지하거나 종료할 수 있어야 한다고 강조했습니다. 또한, 그는 모델의 투명성을 높여 '변조 불가능한 사람이 읽을 수 있는 증거(tamper-proof human readable evidence)'를 남기는 시스템 구축을 촉구했습니다. 이러한 권고 사항들은 적시 사고 공개, 독립적인 감사, 검증 가능한 데이터, 그리고 격리 등 업계 전반에서 논의되는 내용들과 맥을 같이 합니다.
나델라의 이러한 발언은 AI 기술이 발전함에 따라 그 잠재적 위험에 대한 인식이 높아지고 있음을 보여줍니다. 특히, AI 모델의 오작동이나 악용 가능성에 대비하여 강력한 통제 메커니즘을 마련해야 한다는 그의 주장은, AI 안전성(AI safety)과 책임감 있는 AI 개발(responsible AI development)에 대한 중요성을 다시 한번 상기시킵니다. 이는 단순히 기술적 문제를 넘어 사회적, 윤리적 차원의 논의를 활성화하는 계기가 될 것으로 보입니다.