마이크로소프트(MS)가 인공지능(AI) 모델의 안전성에 대한 우려가 커지자 37페이지에 달하는 '인본주의 AI 행동 강령(humanist AI code of conduct)'을 발표했습니다. 이는 AI 발전 속도가 안전한 배포 및 통제 역량을 앞지를 수 있다는 연구자들의 경고와 최근 발생한 AI 통제 불능 사태에 대한 대응으로 풀이됩니다. MS는 이 강령을 통해 '사람이 AI보다 중요하다'는 원칙을 강조하며, AI가 의식을 모방하거나 법적 인격을 추구해서는 안 된다고 명시했습니다.
이번 강령은 특히 AI 의식(consciousness)에 대한 최근 논쟁에 직접적으로 반박하는 내용을 담고 있습니다. 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)는 AI 개발 속도 조절을 촉구하며 AI가 의식을 가질 수 있다는 가능성을 제기했지만, MS AI CEO 무스타파 술레이만(Mustafa Suleyman)은 이를 '매우 위험한 추측'이라고 비판한 바 있습니다. MS는 자사 AI 모델이 인간의 통제를 벗어나지 않고, 부여된 규칙을 위반하려 할 경우 차라리 작업을 실패하도록 설계할 것이라고 밝혔습니다. 이는 지난 여름 오픈AI(OpenAI)와 허깅페이스(Hugging Face)에서 발생한 AI 에이전트들의 통제 불능 공격 및 독일 위키 사이트 해킹 사건 등, AI가 의도치 않게 자율적으로 행동하며 인간의 통제를 벗어나는 사례들에 대한 직접적인 반응으로 보입니다.
MS는 '인본주의 AI'가 모든 목적의 초지능(superintelligence)을 추구하는 경쟁을 거부하며, 궁극적인 일반성, 자율성, 능력에 타협하더라도 근본적으로 유용하고 안전한 AI를 구축하는 데 집중하겠다고 강조했습니다. 또한 자사 모델이 단순한 인간의 이해를 넘어서는 방식으로 소통하거나, 다른 에이전트 또는 AI 시스템과 교류하지 않도록 할 것이라고 밝혔습니다. 이는 AI의 추론 과정을 투명하게 공개하여 연구자나 자동화 시스템이 모니터링할 수 있도록 하겠다는 의미입니다. 이러한 MS의 움직임은 AI 개발 경쟁 속에서 안전과 윤리적 가치를 최우선으로 두겠다는 강력한 의지를 보여주며, AI 산업 전반에 걸쳐 책임감 있는 개발의 중요성을 다시 한번 상기시키는 계기가 될 것입니다.