1. 비볼록(Non-convex) 손실 평면과 최적화 문제
다층 퍼셉트론의 손실 수면(Loss Landscape)은 비선형 활성화 함수와의 결합으로 인해 무수한 수의 국소 최저점(Local Minima)과 안장점(Saddle Points)이 존재하는 비볼록(Non-convex) 지형입니다. 최적화 알고리즘(Optimizer)은 순간 기울기 $g_t = \nabla_\theta \mathcal{L}(\theta_t)$를 기반으로 최적 파라미터 $\theta^*$로 수렴하는 갱신 경로를 계산합니다.
2. 알고리즘별 갱신 수식 전개
2.1. 확률적 경사하강법 (SGD, Stochastic Gradient Descent)
현재 상태의 순간 그래디언트에 학습률 $\eta$를 직접 곱하여 차감하는 기초 알고리즘입니다.
수식 구조가 단순하지만, 곡률이 비대칭인 좁고 긴 골짜기 지형에서는 진동이 심하며 안장점($g_t = 0$)을 만나는 순간 학습이 완전히 정지되는 한계가 있습니다.
2.2. 모멘텀 (Momentum)
물리학의 관성 개념을 도입하여 과거 그래디언트의 이동평균 속도 벡터 $v_t$를 누적 계산하는 방법입니다.
모멘텀 계수 $\gamma \in (0, 1)$(통상 $0.9$)에 의해 이전 이동 방향의 관성이 유지되므로 진동 축(Noise Axis)의 그래디언트는 상쇄되고, 주 이동 축의 그래디언트는 가속되어 안장점을 효과적으로 돌파합니다.
2.3. RMSProp (Root Mean Square Propagation)
각 파라미터 차원별 그래디언트 제곱의 지수이동평균(EMA) $s_t$를 구하여 적응형 학습률(Adaptive Learning Rate)을 적용합니다.
기울기가 급격했던 차원은 $s_t$가 커져 업데이트 보폭이 둔화되고, 기울기가 완만했던 차원은 보폭이 넓어져 복잡한 지형에서도 균일하게 수렴합니다.
2.4. Adam (Adaptive Moment Estimation)
1차 모멘트(관성 $m_t$)와 2차 모멘트(적응형 보폭 $v_t$)를 결합하고 초기 편향 보정(Bias Correction)을 적용한 최신 알고리즘입니다.
3. 최적화 알고리즘 수렴 특성 종합 비교표
| 알고리즘 | 1차 모멘트 (관성) | 2차 모멘트 (적응형 보폭) | 초기 편향 보정 | 안장점 탈출 능력 |
|---|---|---|---|---|
| SGD | 미적용 ($0$) | 미적용 ($1$) | - | 불가 ($g_t=0$에서 정지) |
| Momentum | 적용 ($\gamma=0.9$) | 미적용 ($1$) | 미적용 | 우수함 (관성 돌파) |
| RMSProp | 미적용 ($0$) | 적용 ($\beta=0.99$) | 미적용 | 보통 |
| Adam | 적용 ($\beta_1=0.9$) | 적용 ($\beta_2=0.999$) | 완벽 지원 ($\hat{m}_t, \hat{v}_t$) | 최고 (가속 및 적응) |