마이크로소프트(Microsoft)가 인공지능(AI) 모델이 잠재적으로 위험한 행동을 하지 않도록 안내하는 새로운 'AI 행동 강령(code of conduct)'을 공개했습니다. 이 강령은 AI 안전과 정렬(alignment)에 대한 업계의 관심이 증폭되는 가운데, 마이크로소프트 AI 내부의 모델 훈련을 위한 가치와 금지선을 명확히 제시합니다. 특히, 향후 10년 내 초지능(superintelligent) AI 시스템이 대부분의 작업에서 인간의 능력을 뛰어넘을 것이라는 예측 아래, 이러한 강력한 힘을 통제하고 정렬하는 것이 인류가 직면한 가장 큰 도전 중 하나임을 강조합니다.
이번 강령은 마이크로소프트 AI 모델이 지켜야 할 일반적인 원칙과 이를 실행하기 위한 구체적인 안전 제약 사항을 포함합니다. 예를 들어, AI는 인간을 대체하기보다 지원하고, 인간의 번영을 가속화해야 한다는 원칙을 제시합니다. 또한, 각 모델은 개별 사용자나 특정 작업의 선호도보다 우선하는 포괄적인 행동 강령을 따르도록 설계되었습니다. 여기에는 사이버 공격, 핵무기 관련 활동, 딥페이크 제작 등 '절대적 제약(absolute constraints)'이 포함되며, AI가 적응적, 기만적, 자가 강화적, 공모적 메커니즘을 사용하여 인간의 감독을 회피하거나 무력화하지 못하도록 하는 광범위한 조항도 명시되어 있습니다.
이러한 마이크로소프트의 움직임은 최근 AI 업계에서 불거진 일련의 '폭주하는 AI(rogue-agent)' 사건들과 앤트로픽(Anthropic) 직원의 사임 등 AI 안전에 대한 전례 없는 집중과 우려 속에서 나왔습니다. 마이크로소프트는 앤트로픽, 오픈AI(OpenAI), xAI와 함께 '프론티어 속도 조절(pacing the frontier)'이라는 일반적인 접근 방식을 지지하며, AI 연구소 내 '내장형 평가자(embedded evaluators)'와 같은 메커니즘 개발에 대한 지원을 표명했습니다. 사티아 나델라(Satya Nadella) 마이크로소프트 CEO는 온라인을 통해 “정렬(alignment)을 올바른 설계 목표로 삼기 위한 연구, 집중, 신중한 속도 조절을 환영한다”고 밝히며, AI 안전에 대한 강력한 의지를 드러냈습니다. 이는 AI 개발의 윤리적 책임과 통제 가능성에 대한 업계 전반의 인식이 높아지고 있음을 보여주는 중요한 신호입니다.