인공일반지능(AGI)의 등장이 임박하면서, AI 거버넌스(AI governance)에 대한 논의가 새로운 국면을 맞이하고 있습니다. 기존의 AI 거버넌스는 주로 특정 AI 시스템의 위험을 관리하고 윤리적 사용을 보장하는 데 초점을 맞춰왔습니다. 그러나 AGI는 인간 수준의 인지 능력을 갖추거나 이를 능가할 수 있어, 그 영향력이 훨씬 광범위하고 예측 불가능할 수 있다는 점에서 근본적인 재검토가 필요하다는 목소리가 커지고 있습니다.
현재의 AI 거버넌스 모델은 주로 유럽연합(EU)의 AI 법안처럼 AI 시스템을 위험 수준에 따라 분류하고, 고위험 시스템에 더 엄격한 규제를 적용하는 방식입니다. 하지만 AGI는 그 자체로 고위험군에 속할 뿐만 아니라, 다양한 분야에 걸쳐 예상치 못한 파급 효과를 일으킬 수 있습니다. 예를 들어, AGI가 경제, 사회, 심지어 인간의 정체성 자체에 미칠 수 있는 변화는 기존의 프레임워크로는 충분히 다루기 어렵습니다. 따라서 단순히 위험을 줄이는 것을 넘어, AGI가 가져올 수 있는 막대한 잠재적 이점을 어떻게 안전하게 활용할 것인지에 대한 논의가 중요해지고 있습니다.
이러한 변화는 AI 거버넌스의 목표를 재정의할 것을 요구합니다. 이제는 단순히 AI의 오용을 막는 것을 넘어, AGI가 인류에게 긍정적인 영향을 미치도록 유도하고, 그 과정에서 발생할 수 있는 사회적 불평등이나 통제 불능의 위험을 최소화하는 방향으로 나아가야 합니다. 이는 기술 개발자와 정책 입안자, 그리고 시민 사회가 함께 참여하여 AGI의 발전 경로를 신중하게 설계하고, 유연하게 대응할 수 있는 거버넌스 체계를 구축해야 함을 의미합니다. AGI 시대의 AI 거버넌스는 기술 발전의 속도와 복잡성을 반영하여 끊임없이 진화해야 할 것입니다.