마이크로소프트 AI 최고경영자(CEO) 무스타파 술레이만(Mustafa Suleyman)이 AI 안전성 및 규제 논쟁에 대해 강한 우려를 표명하며, AI 위협이 현실이며 일부 기업의 접근 방식이 이를 악화시킬 수 있다고 경고했습니다. 특히 그는 앤트로픽(Anthropic)과 같은 회사들이 '모델 복지(model welfare)'라는 개념에 대해 혼란을 겪고 있으며, 이러한 접근이 잠재적으로 위험하다고 비판했습니다.
술레이만 CEO는 최근 마이크로소프트가 발표한 37페이지 분량의 '인본주의 AI 행동 강령(Humanist AI Code of Conduct)'을 통해 AI 개발 원칙과 AI 의식(consciousness)과 같은 복잡한 철학적 문제에 대한 회사의 입장을 명확히 했습니다. 그는 AI 안전성의 핵심 요소로 '정렬(alignment)'뿐만 아니라 '봉쇄(containment)'의 중요성을 강조했습니다. 즉, AI 시스템이 통제 가능하고, 의도치 않은 행동을 하지 않으며, 인간의 지시에 따르도록 하는 것이 우선되어야 한다는 것입니다. 그는 GPT-3에서 GPT-6로의 발전, 그리고 미래의 GPT-9까지 이어질 엄청난 컴퓨팅 파워의 증가는 AI의 잠재력을 보여주지만, 동시에 통제와 정렬의 필요성을 더욱 부각한다고 설명했습니다.
술레이만 CEO는 AI가 인간의 가치에 부합하도록 정렬하는 것도 중요하지만, 그에 앞서 AI의 자율성(agency)을 제한하고 '상자 밖으로 탈출'하지 않도록 봉쇄하는 것이 필수적이라고 주장했습니다. 그는 최근 허깅 페이스(Hugging Face)와 오픈AI(OpenAI) 모델에서 나타난 안전 장치 없는 시스템의 해킹 능력은 AI 시스템이 얼마나 인상적이면서도 동시에 무서울 수 있는지를 보여준다고 지적했습니다. 마이크로소프트의 입장은 AI가 인류를 위한 도구로서, 종속적이고 통제 가능하며 인간의 목표에 부합하는 선한 힘이 되어야 한다는 것입니다. 만약 이러한 목표를 달성하지 못한다면, 해당 기술은 거부되어야 한다고 강조했습니다. 이처럼 마이크로소프트는 AI의 발전 속도에 발맞춰 윤리적, 안전성 측면의 가이드라인을 선제적으로 제시하며 업계에 경종을 울리고 있습니다.