홍콩 개인정보보호위원회(PCPD)가 2026년 인공지능(AI) 규제 준수 점검을 마무리하고 그 결과를 발표했습니다. 이번 점검은 AI 시스템이 개인정보를 어떻게 처리하고 있는지 파악하고, 관련 법규 준수 여부를 확인하는 데 중점을 두었습니다. 특히, 자체적으로 목표를 설정하고 실행하는 '에이전트 AI(Agentic AI)'의 부상에 대한 우려와 함께 기업들의 AI 거버넌스 강화 필요성이 강조되었습니다.
PCPD는 이번 점검에서 다양한 산업 분야의 기업들을 대상으로 AI 시스템의 개인정보 보호 조치와 데이터 처리 과정을 면밀히 살폈습니다. 주요 발견 사항으로는 많은 기업이 AI 도입 초기 단계에 있어 개인정보 보호 영향 평가(PIA)나 명확한 데이터 거버넌스 정책이 미흡하다는 점이 지적되었습니다. 또한, AI 모델 학습에 사용되는 데이터의 출처 투명성 부족과 사용자 동의 절차의 불분명함도 문제점으로 드러났습니다. 특히, 에이전트 AI의 경우, 자율적인 의사결정 과정에서 발생할 수 있는 개인정보 오용 및 침해 가능성에 대한 심층적인 논의가 필요하다고 언급되었습니다.
이번 홍콩의 AI 규제 점검 결과는 전 세계적으로 AI 기술이 빠르게 발전함에 따라 개인정보 보호와 윤리적 활용에 대한 사회적 요구가 커지고 있음을 시사합니다. 기업들은 AI 시스템 도입 시 초기 단계부터 개인정보 보호를 최우선으로 고려하고, 투명하고 책임감 있는 AI 거버넌스 체계를 구축해야 할 것입니다. 이는 단순히 규제 준수를 넘어, 사용자 신뢰를 확보하고 지속 가능한 AI 생태계를 조성하는 데 필수적인 요소가 될 것입니다.