기계 학습(ML) 모델은 데이터를 학습하고 예측하는 과정에서 입력 데이터가 가진 특정 대칭성(Lie group action) 정보를 의도치 않게 버리는 경향이 있습니다. Zachary P. Bradshaw의 최근 연구는 이처럼 모델이 '보지 못하고 버린' 대칭 정보를 체계적으로 측정하고 활용할 수 있는 새로운 프레임워크를 제시했습니다. 이는 모델의 예측 결과에 영향을 주지 않으면서도 데이터의 숨겨진 특성을 파악하고, 이를 보안 및 프라이버시 강화에 활용할 수 있는 가능성을 열어줍니다.
이 연구는 '널 파이버(null fiber)'라는 개념을 도입하여, 모델이 특정 입력에 대해 감지할 수 없는 그룹 요소들의 집합을 정의합니다. 쉽게 말해, 모델이 인지하지 못하는 데이터 변형의 범위를 수학적으로 규명한 것입니다. 이 널 파이버는 일반적인 입력에서 최소한 '그룹의 차원 - 1'만큼의 차원을 가지며, 푸리에 계수 행렬을 통해 스펙트럼 특성도 파악할 수 있습니다. 연구팀은 이 널 파이버 요소를 뉴턴 반복법을 통해 효율적으로 계산할 수 있음을 보였으며, 이는 몇 번의 기울기 평가(gradient evaluation)와 비슷한 비용으로 가능합니다. 이 프레임워크는 고전적인 신경망(neural network)뿐만 아니라 양자 회로(variational quantum circuits)에도 동일하게 적용될 수 있습니다.
이 기술은 분자 특성 예측(molecular property prediction) 및 구형 이미지 분류(spherical image classification)와 같은 실제 응용 분야에서 데이터 마스킹(data masking), 모델 지문 인식(model fingerprinting), 프라이버시 보호 컴퓨팅(privacy-preserving computation)에 활용될 수 있음을 실험적으로 입증했습니다. 예를 들어, 민감한 정보를 포함하는 데이터에서 모델이 예측에 사용하지 않는 부분을 식별하여 마스킹함으로써, 모델의 성능 저하 없이 프라이버시를 보호할 수 있습니다. 또한, 모델의 고유한 '지문'을 생성하여 무단 복제나 변조를 감지하는 데도 활용될 수 있습니다. 이 연구는 AI 모델의 내부 작동 방식에 대한 이해를 심화하고, AI 시스템의 신뢰성과 보안을 강화하는 데 기여할 중요한 발판이 될 것입니다.