최근 미국 내 대형 소매점들이 도입한 인공지능(AI) 기반 안면 인식 시스템이 무고한 쇼핑객들을 절도범으로 오인하는 심각한 문제를 일으키고 있습니다. 이 기술은 매장 내 절도 행위를 줄이기 위해 도입되었지만, 오히려 결백한 사람들에게 불필요한 고통과 법적 분쟁을 야기하며 사회적 논란의 중심에 섰습니다.
퓨처리즘(Futurism) 보도에 따르면, AI 안면 인식 시스템은 과거 절도범 데이터베이스와 쇼핑객의 얼굴을 비교하는 방식으로 작동합니다. 하지만 이 시스템의 정확도가 아직 완벽하지 않아, 특히 유색인종 여성의 경우 오인율이 현저히 높게 나타나고 있습니다. 한 여성은 이 시스템의 오류로 인해 매장 직원에게 절도범으로 지목되어 경찰에 신고당하고, 결국 매장 출입이 금지되는 등 심각한 피해를 입었으며, 이는 인종차별 논란으로까지 번지고 있습니다. 이러한 오인 사례는 단순히 불편함을 넘어 개인의 명예와 인권에 심각한 침해를 초래하고 있습니다.
이러한 AI 오작동은 기술의 한계와 윤리적 사용에 대한 중요한 질문을 던집니다. AI 시스템이 학습 데이터의 편향성을 그대로 반영하거나, 저해상도 이미지 등 불완전한 정보로 인해 잘못된 판단을 내릴 수 있기 때문입니다. 소매점들은 절도 방지라는 명목으로 이 기술을 도입했지만, 그 과정에서 무고한 시민들의 권리를 침해하고 있다는 비판을 피하기 어렵습니다. 앞으로 AI 기술을 사회에 적용할 때는 기술적 정확성뿐만 아니라 사회적 영향과 윤리적 고려가 더욱 철저히 이루어져야 하며, 피해자 구제 방안 마련과 함께 시스템의 투명성 및 책임성 강화가 시급합니다.