미국에서 인공지능(AI) 얼굴 인식 기술의 오류로 인해 한 시민이 억울하게 체포된 후 경찰을 고소하는 사건이 발생했습니다. 이 남성은 AI 얼굴 인식 시스템이 자신을 범인으로 잘못 지목했고, 이로 인해 부당하게 구금되었다고 주장하고 있습니다. 이는 AI 기술이 수사 과정에 깊이 관여하면서 발생할 수 있는 심각한 인권 침해 및 법적 문제에 대한 경고등을 울리고 있습니다.
고소장에 따르면, 해당 사건은 AI 얼굴 인식 기술이 범죄 현장 영상 속 인물과 원고의 얼굴을 일치시키면서 시작되었습니다. 하지만 원고는 사건 발생 당시 다른 장소에 있었으며, 범죄와 전혀 관련이 없음을 주장하고 있습니다. 그럼에도 불구하고 경찰은 AI의 판단을 근거로 체포를 진행했고, 원고는 상당 기간 구금된 후 무혐의로 풀려났습니다. 이번 소송은 AI 기술의 한계와 오작동 가능성, 그리고 수사기관의 AI 의존도에 대한 근본적인 질문을 던지고 있습니다.
이번 사건은 AI 기술이 사회 전반에 확산되는 과정에서 반드시 고려해야 할 중요한 시사점을 제공합니다. 특히 얼굴 인식과 같은 민감한 기술은 개인의 자유와 인권에 직접적인 영향을 미칠 수 있으므로, 기술의 정확성 검증과 함께 오작동 시의 책임 소재, 그리고 피해 구제 방안 마련이 필수적입니다. AI 기술의 발전은 환영할 일이지만, 그 도입과 활용에 있어서는 신중한 접근과 사회적 합의가 선행되어야 함을 보여주는 사례입니다.