메타(Meta)가 인공지능(AI) 시스템 훈련을 목적으로 직원들의 컴퓨터 사용 행태를 추적하던 '모델 호환성 이니셔티브(MCI: Model Compatibility Initiative)' 프로그램을 내부 데이터 유출 문제로 일시 중단했습니다. MCI를 통해 수집된 마우스 움직임, 클릭 위치, 키 입력, 화면 내용 등 잠재적으로 민감한 데이터가 사내 다른 직원들에게 과도하게 노출되는 보안 사고가 발생한 것이 직접적인 원인입니다.
지난 4월 미국 직원들을 대상으로 도입된 MCI는 AI가 사람이 소프트웨어를 조작하는 방식을 학습하는 데 직원 데이터가 필요하다는 경영진의 판단 아래 추진되었습니다. 그러나 직원들은 개인정보 침해, 보안 위험, 개인의 자유 침해 등을 이유로 강력히 반발해왔습니다. 초기에는 옵트아웃(Opt-out)조차 불가능했으나, 항의 이후 제한적인 수준에서 변경이 이루어졌습니다. 메타의 AI 연구를 총괄하는 스테판 카스리엘(Stephane Kasriel) 부사장은 6월 18일 보안 문제가 발견되어 4시간 내에 처리되었지만, 초기 수정이 유지되지 않아 데이터 접근을 추가로 제한해야 했다고 밝혔습니다. 이 문제로 인해 “일부 MCI 파생 데이터”가 의도보다 더 많은 사람에게 접근 가능해졌습니다.
이번 MCI 중단은 기업이 AI 개발을 위해 직원 데이터를 활용하려 할 때 발생할 수 있는 개인정보 보호 및 보안 문제의 심각성을 여실히 보여줍니다. 특히 민감한 내부 데이터를 다루는 과정에서 발생한 유출 사고는 직원들의 신뢰를 크게 훼손할 수 있으며, 기업의 평판에도 부정적인 영향을 미칠 수 있습니다. 메타는 데이터 보호 통제의 효과를 확신할 때만 MCI를 재개할 것이며, 이미 장기적 가치를 평가할 충분한 데이터를 수집했다고 설명했습니다. 이는 AI 시대에 기업들이 데이터 활용과 개인정보 보호 사이에서 균형을 찾는 것이 얼마나 어려운 과제인지를 시사합니다.