
로그인 후 이용해주세요
저장소에 저장되었습니다.
로그인 후 이용해주세요
신경망은 학습 과정에서 저주파 성분을 먼저 학습하고 고주파 성분을 잘 학습하지 못하는 스펙트럼 편향(Spectral Bias) 문제가 있음
NTK(Neural Tangent Kernel) 이론을 통해 이러한 현상이 신경망의 학습 동역학과 고유값 구조에서 발생함을 설명함
해결 방법으로 입력을 sin, cos 기반의 Fourier Feature로 변환하여 고주파 정보를 포함한 특징 공간으로 매핑함
실험 결과 기본 MLP는 고주파 정보를 제대로 학습하지 못했지만 Fourier Feature를 적용한 모델은 함수와 이미지를 더 정확하게 복원함
따라서 Fourier Feature Mapping은 신경망의 스펙트럼 편향을 완화하고 복잡한 신호 표현 성능을 향상시키는 방법임을 확인함