AI 모델 학습에 사용된 데이터의 출처를 기록(record) 및 토큰(token) 수준으로 정밀하게 추적하는 새로운 시스템 'OriginBlame'(오리진블레임)이 발표되었습니다. 이는 데이터 기여자가 자신의 데이터 삭제를 요청할 때, 기존 시스템들이 파일 또는 데이터셋 전체를 삭제해야 했던 비효율적인 문제를 해결합니다. OriginBlame은 데이터 처리 파이프라인 전반에 걸쳐 저자 정보를 전파하여, 특정 저자의 데이터를 정확히 식별하고 제거할 수 있는 '잊을 데이터셋(forget set)'을 생성합니다.
기존의 데이터 출처 추적 시스템은 파일 또는 데이터셋 단위로 작동하여, 특정 저자의 데이터 삭제 요청 시 해당 파일이나 데이터셋 전체를 삭제해야 하는 '과도한 삭제(over-deletion)' 문제를 야기했습니다. 이는 불필요한 데이터 손실로 이어져 모델 성능에 부정적인 영향을 줄 수 있습니다. OriginBlame은 위키피디아(Wikipedia) 219,555 페이지에 대한 평가에서 이러한 데이터셋 단위의 과도한 삭제를 101배에서 1.3배 수준으로 대폭 줄이는 효과를 보였습니다. 또한, 허깅페이스(HuggingFace) 파이프라인에서는 1.3~4.0%, 데이터트로브(Datatrove)에서는 2.1~19.0%의 처리량(throughput) 오버헤드만으로 통합이 가능함을 입증했습니다. 17억(1.7B) 개 매개변수 모델에 적용했을 때, OriginBlame 기반의 잊을 데이터셋은 무작위 삭제 방식 대비 언러닝(unlearning) 효율을 42% 개선했습니다.
이러한 정밀한 데이터 출처 추적은 AI 시대의 중요한 과제인 데이터 주권과 투명성 문제를 해결하는 데 핵심적인 역할을 할 것입니다. 데이터 기여자는 자신의 데이터가 AI 학습에 어떻게 활용되는지 명확히 알 수 있게 되며, 삭제를 요청할 권리도 실질적으로 보장받을 수 있습니다. 이는 개인정보보호 규제 강화 추세와 맞물려, AI 모델 개발자들이 보다 책임감 있고 윤리적인 방식으로 데이터를 관리하고 모델을 구축하는 데 필수적인 도구가 될 것입니다. 결과적으로, AI 모델의 신뢰성을 높이고 사용자들의 데이터 활용에 대한 불안감을 해소하는 데 크게 기여할 것으로 예상됩니다.