미국 뉴저지주에 사는 73세 할머니 그랜드마더(Grandmother)가 인공지능(AI) 얼굴 인식 시스템의 오인으로 은행 강도 혐의를 받아 체포되는 충격적인 사건이 발생했습니다. 이 할머니는 실제 강도 사건과 아무런 관련이 없었음에도 불구하고, AI 시스템이 강도 용의자와 자신의 얼굴을 잘못 매칭하면서 경찰 수사의 표적이 되었습니다. 결국 무혐의로 풀려났지만, 이 과정에서 겪은 정신적 고통과 명예 훼손에 대해 1천만 달러(약 137억 원) 규모의 손해배상 소송을 제기했습니다.
사건의 발단은 2023년 뉴저지주에서 발생한 은행 강도 사건이었습니다. 당시 은행 CCTV에 찍힌 용의자의 얼굴이 AI 얼굴 인식 시스템을 통해 분석되었고, 시스템은 그랜드마더 할머니를 용의자로 지목했습니다. 하지만 할머니는 이미 신분 도용 피해를 겪고 있었으며, 강도 사건과는 전혀 무관한 인물이었습니다. 경찰은 AI 시스템의 분석 결과만을 믿고 할머니를 강도 용의자로 체포했고, 할머니는 영문도 모른 채 구금되어 조사를 받아야 했습니다. 다행히 추가 조사 과정에서 할머니가 실제 범인이 아님이 밝혀져 풀려났지만, 이 사건은 할머니에게 깊은 상처를 남겼습니다.
이번 사건은 AI 기술, 특히 얼굴 인식 시스템의 정확성과 신뢰성에 대한 심각한 의문을 제기합니다. AI는 방대한 데이터를 기반으로 학습하지만, 데이터 편향이나 시스템 자체의 한계로 인해 오류를 범할 수 있습니다. 특히 인종, 성별, 연령 등 특정 그룹에 대한 인식 정확도가 떨어질 수 있다는 우려가 꾸준히 제기되어 왔습니다. 이러한 AI의 오작동은 개인의 삶에 돌이킬 수 없는 피해를 줄 수 있으며, 이번 사례처럼 무고한 시민이 범죄자로 오인받는 비극적인 결과를 초래할 수 있습니다.
따라서 AI 기술을 수사나 보안 등 민감한 분야에 적용할 때는 더욱 신중한 접근이 필요합니다. AI의 판단을 맹신하기보다는, 반드시 인간의 검증과 판단이 동반되어야 합니다. 또한, AI 시스템 개발 과정에서 발생할 수 있는 편향을 최소화하고, 오류 발생 시 책임 소재를 명확히 하는 윤리적, 법적 가이드라인 마련이 시급합니다. 이번 소송은 AI 기술 발전의 이면에서 간과될 수 있는 인권 침해와 사회적 책임을 다시 한번 상기시키는 중요한 계기가 될 것입니다.