물리 기반 신경망(PINN, Physics-Informed Neural Networks)은 미분방정식(PDE)을 신경망 학습에 직접 통합하여 과학 및 공학 문제 해결에 활용됩니다. 하지만 PINN은 저주파수 성분을 고주파수 성분보다 빠르게 학습하는 '스펙트럼 편향(spectral bias)' 문제로 인해, 고주파수 및 다중 스케일(multi-scale) 특징을 가진 복잡한 물리 현상을 정확하게 모델링하는 데 어려움을 겪어왔습니다. 푸리에 특징 임베딩(Fourier feature embeddings)이나 사인 함수 활성화(sinusoidal activations) 같은 기법들이 이 문제를 해결하기 위해 제안되었지만, 이러한 기법들이 어떤 상황에서 가장 효과적인지에 대한 명확한 이해는 부족했습니다.
최근 Shubham Rai의 연구는 '이중 분기 스펙트럼 게이팅 아키텍처(DBSG-PINN, Dual-Branch, Spectrally-Gated Architecture)'를 도입하여 주파수 분해(frequency decomposition) 기법이 PINN에 언제 이점을 주는지 탐색했습니다. 이 아키텍처는 저주파수와 고주파수 구성 요소를 별도의 서브네트워크로 분리하고, 적응형 게이트(adaptive gate)로 이들을 연결합니다. 연구팀은 이 모델을 5가지 1차원 벤치마크 PDE에 적용하여, 부드러운 단일 스케일 문제부터 진동하는 다중 스케일 문제까지 다양한 시나리오에서 주파수 분해 및 스펙트럼 라우팅(spectral routing)의 효과를 분석했습니다. 그 결과, 주파수 분해는 스펙트럼이 복잡한 벤치마크, 특히 다중 모드(multimodal) 파동 문제에서 상대 L2 오차를 최대 59.2%까지 줄이는 등 큰 효과를 보였습니다. 반면, 더 부드러운 PDE에서는 이점이 거의 없었으며, 특정 벤치마크(1D Wave)에서는 오히려 단순한 모델보다 성능이 저하되기도 했습니다.
이 연구는 주파수 분해 기법이 모든 물리 기반 신경망 문제에 만능 해결책이 아님을 시사합니다. 대신, 모델링하려는 물리 현상이 얼마나 스펙트럼적으로 풍부하고 복잡한지에 따라 그 효과가 크게 달라진다는 점을 강조합니다. 즉, 다중 스케일 특징을 가진 복잡한 시스템을 다룰 때 주파수 분해 전략이 PINN의 정확도와 효율성을 크게 향상시킬 수 있지만, 단순한 시스템에서는 불필요한 복잡성을 추가할 수 있습니다. 이는 향후 PINN 모델 설계 시 문제의 특성을 고려한 맞춤형 접근 방식의 중요성을 부각하며, 스펙트럼 편향 문제를 해결하기 위한 연구 방향을 더욱 구체화하는 데 기여할 것입니다.