유럽연합(EU)이 세계 최초의 포괄적인 인공지능법(AI Act)을 최종 승인하면서, 기업들이 사용하는 인사(HR) 기술이 '고위험 AI 시스템'으로 분류될 가능성이 높아졌습니다. 이 법안은 AI 시스템의 위험 수준에 따라 차등적인 규제를 적용하며, 특히 개인의 삶과 권리에 중대한 영향을 미칠 수 있는 시스템을 고위험으로 간주합니다. HR 분야의 AI는 채용 결정, 성과 평가, 승진 추천 등 민감한 영역에 사용될 수 있어, 기업들은 새로운 규제 환경에 대비해야 합니다.
EU AI Act는 고위험 AI 시스템에 대해 엄격한 요구사항을 부과합니다. 여기에는 데이터 거버넌스, 투명성, 인간 감독, 정확성, 견고성, 보안 등이 포함됩니다. 예를 들어, 채용 과정에서 AI를 사용하여 지원자를 평가하는 시스템은 잠재적인 편향(bias)을 최소화하고, 그 결정 과정을 명확히 설명할 수 있어야 합니다. 또한, 이러한 시스템은 정기적인 위험 평가를 거쳐야 하며, 사용자에게 AI 사용 사실을 고지하고, 필요한 경우 인간이 개입할 수 있는 메커니즘을 갖춰야 합니다. 규정을 준수하지 않을 경우 상당한 벌금이 부과될 수 있습니다.
이번 EU AI Act의 통과는 전 세계적으로 AI 규제 논의에 중요한 선례를 남길 것으로 보입니다. 기업들은 HR 기술에 AI를 도입할 때 단순히 효율성만을 추구할 것이 아니라, 법적, 윤리적 책임을 심도 깊게 고려해야 합니다. 특히 글로벌 사업을 하는 기업들은 EU의 규제 준수 여부가 사업 운영에 직접적인 영향을 미칠 수 있으므로, AI 시스템의 설계 단계부터 규제 요건을 반영하는 '설계 단계부터의 프라이버시(Privacy by Design)'와 유사한 접근 방식이 필요할 것입니다. 이는 AI 기술의 책임감 있는 발전을 촉진하는 계기가 될 것입니다.