인공지능(AI) 모델의 안전성을 확보하는 데 있어 핵심적인 과제 중 하나는 '적대적 강건성(adversarial robustness)'입니다. 이는 미세한 입력 변화에도 AI 모델의 예측이 흔들리지 않도록 하는 능력인데, 최근 연구에서 이 복잡한 문제를 '격자 탐색(lattice traversal)'이라는 새로운 이론적 틀로 접근하는 방법이 제시되었습니다. 이 접근법은 AI 안전성 연구에 중요한 전환점이 될 수 있습니다.
이번 연구는 다층 퍼셉트론(Multilayered Perceptron, MLP) 분류기를 대상으로, 입력 공간 내 특정 '구간(interval)'이 모델의 예측에 미치는 영향을 분석했습니다. 여기서 '건전한 인증(sound certification)'은 특정 입력 지점(x)이 포함된 구간 내에서 x가 어떻게 변하더라도 MLP의 예측이 바뀌지 않음을 보장하는 것이고, '완전한 인증(complete certification)'은 x가 해당 구간을 벗어날 때 MLP의 예측이 반드시 변함을 보장하는 개념입니다. 특히 완전한 인증은 기존 연구에서 다뤄지지 않았던 새로운 영역으로, 연구진은 이를 효율적으로 해결할 수 있음을 증명했습니다.
연구팀은 격자 탐색 연산자를 개발하고 이를 '정제 및 검증(refine & verify)' 반복 방식에 적용하여 건전한 인증의 최대성과 완전한 인증의 최소성을 보장했습니다. 흥미로운 점은 완전한 인증의 경우 최소 해를 다항 시간 내에 찾을 수 있는 반면, 건전한 인증은 매우 다루기 어려운(intractable) 문제임이 밝혀졌다는 것입니다. 또한, 대칭적인 구간(l∞-sphere)에서는 로그 시간 복잡도를 갖는 알고리즘을 제시하여 효율성을 높였습니다. 이러한 발견은 AI 모델의 예측 신뢰성을 수학적으로 엄밀하게 검증하고 개선하는 데 새로운 가능성을 열어줍니다.