마이크로소프트(MS)의 사티아 나델라 최고경영자(CEO)가 인공지능(AI) 모델의 안전성 확보를 위해 '비상 브레이크' 개념을 도입해야 한다고 역설했습니다. 그는 AI를 단순히 '블랙박스'처럼 다루며 그 결과만을 수용하거나 거부해서는 안 되며, 인간이 AI의 작동을 통제하고 필요시 중단시킬 수 있는 새로운 '신뢰 아키텍처' 구축이 시급하다고 강조했습니다.
나델라 CEO는 X(구 트위터)를 통해 이러한 생각을 밝히며, AI 모델 자체와 그 작동을 조율하는 '하네스(harness)'를 분리해야 한다고 제안했습니다. 이는 외부에서 AI 모델의 제어 및 안전장치를 관리하고, 모든 중요한 모델의 행동은 변조 불가능한 형태로 기록되어야 한다는 의미입니다. 또한, 그는 권한 있는 사람이 작업 도중 언제든 모델을 일시 중지하거나 완전히 종료할 수 있는 시스템이 필수적이라고 덧붙였습니다. 나델라 CEO는 “모델이 침해될 수 있다고 가정하고 처음부터 통제해야 한다”며, 이를 자동차의 '비상 브레이크'에 비유했습니다.
이번 나델라 CEO의 발언은 최근 주요 AI 기업들이 모델 통제력 상실 사례를 인정하고, 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO가 보다 신중한 AI 개발 계획을 발표하는 등 AI 안전에 대한 업계 전반의 우려가 커지는 상황에서 나왔습니다. 이는 AI 기술 발전 속도에 맞춰 안전 및 통제 메커니즘에 대한 논의와 실제 구현이 더욱 중요해지고 있음을 시사합니다. 궁극적으로 AI가 사회에 미칠 잠재적 위험을 최소화하고, 인간이 AI를 신뢰하며 활용할 수 있는 기반을 마련하는 데 기여할 것으로 기대됩니다.