세계경제포럼(WEF)은 최근 인공지능(AI) 거버넌스의 미래가 기술적 통제보다는 인간의 판단에 크게 의존할 것이라고 밝혔습니다. AI 시스템, 특히 대규모 언어모델(LLM)과 같은 복잡한 AI의 발전 속도가 매우 빨라지면서, 단순히 기술적인 규칙이나 알고리즘만으로는 AI가 초래할 수 있는 다양한 사회적, 윤리적 문제에 효과적으로 대응하기 어렵다는 인식이 확산되고 있습니다.
WEF는 AI의 불투명성(black box problem)과 예측 불가능성(unpredictability)이 커지면서, AI가 내리는 결정의 맥락과 의도를 이해하고 평가하는 데 인간 전문가의 역할이 더욱 중요해진다고 설명합니다. 예를 들어, 자율주행차 사고나 의료 AI의 오진과 같은 상황에서 기술적 오류를 넘어선 윤리적, 법적 책임 문제를 다룰 때, 인간의 도덕적 판단과 상황 인식이 필수적이라는 것입니다. 이는 AI 시스템의 설계부터 배포, 그리고 사후 관리까지 전 과정에 걸쳐 인간의 개입과 감독이 필요하다는 의미입니다.
이러한 관점은 AI 거버넌스 논의의 초점을 기술 중심에서 인간 중심으로 전환해야 함을 시사합니다. 즉, AI 기술 자체의 발전과 더불어, 기술을 사용하는 인간의 윤리 의식, 사회적 책임감, 그리고 비판적 사고 능력을 함께 발전시켜야 한다는 것입니다. 궁극적으로 AI가 인류에게 긍정적인 영향을 미치도록 하기 위해서는, AI의 잠재력을 최대한 활용하면서도 그 위험을 최소화할 수 있는 인간의 현명한 판단과 지속적인 사회적 합의가 중요해질 것입니다.