미국 전역에 12만 대 이상 설치된 인공지능(AI) 기반 자동 번호판 인식(ALPR) 카메라 '플록'(Flock)이 사생활 침해 및 데이터 오용 논란으로 몸살을 앓고 있습니다. 플록 카메라는 차량 번호판, 제조사, 모델, 색상 등 다양한 정보를 AI로 식별하고 추적하며, 이 네트워크를 통해 사람들의 이동 경로를 파악할 수 있습니다. 하지만 경찰의 데이터 오용 사례가 잇따라 보고되면서, 로스앤젤레스(LA)를 비롯한 수십 개 지역 사회가 플록과의 계약을 취소하거나 카메라 사용을 중단하고 있습니다.
플록의 최고경영자(CEO) 개럿 랭글리(Garrett Langley)는 최근 언론 인터뷰에서 경찰의 도구 오용에 대한 회사의 책임에 대해 생각을 바꿨다며, "우리가 잘못했다"고 인정했습니다. 이에 따라 플록은 '비정상적인 검색 행동'을 감지하고 의심스러운 사용자를 즉시 잠그는 '감사 지원'(Audit Assistance) 기능을 의무화하고 있습니다. 또한, 모든 사용자가 검색 시 사건 코드를 입력하도록 하여 개인적인 목적의 조회를 제한하고, 비상 상황 시 관리자 승인으로 코드를 우회할 수 있지만 이 역시 검토 대상이 됩니다. 이러한 조치들은 경찰이 전 연인을 스토킹하거나 개인적인 목적으로 데이터를 조회하는 등의 문제에 대응하기 위한 것입니다.
이러한 논란은 AI 기반 감시 기술이 사회에 미치는 영향과 윤리적 문제에 대한 중요한 질문을 던지고 있습니다. 플록의 사례는 기술 발전이 가져올 수 있는 편의성 뒤에 숨겨진 잠재적 위험, 특히 개인의 사생활과 자유 침해 가능성을 명확히 보여줍니다. 기업은 기술 개발뿐만 아니라 그 기술이 사회에 미칠 파급 효과와 오용 가능성에 대한 깊은 책임감을 가져야 하며, 사용자 데이터 보호와 투명한 운영을 위한 강력한 안전장치를 마련하는 것이 필수적입니다. 이번 사건은 AI 감시 기술의 도입과 활용에 있어 정부, 기업, 시민 사회 모두가 더욱 신중하고 협력적인 접근이 필요함을 시사합니다.