
로그인 후 이용해주세요
저장소에 저장되었습니다.
로그인 후 이용해주세요
경사하강법은 함수의 최솟값을 찾는 최적화 알고리즘으로, 딥러닝 모델의 성능 개선에 핵심 역할을 함
역전파 알고리즘은 오차를 출력층에서 입력층 방향으로 전파하며 가중치를 효율적으로 조정하는 데 사용됨
두 알고리즘은 연쇄법칙(Chain Rule)을 기반으로 하며, 합성함수의 편미분을 통해 기울기를 계산함
경사하강법에는 미니배치, 모멘텀, AdaGrad, Adadelta 등의 변형 알고리즘이 존재하여 다양한 최적화가 가능함
이미지 인식, 자연어 처리 등 실제 인공지능 분야에서 두 알고리즘은 신경망 학습을 최적화하는 데 널리 활용됨