물론 잘 되어 있는 포스트가 많기 때문에, 간단하게 쓰겠습니다. Gradient Descent란, Machine Learning에서 궁극적으로 하려고 하는 목표, 즉, local minimum/maximum을 찾고자 할 때 사용하는 최적화 방법이라고 할 수 있겠습니다. 보통 이때, 로컬 미니멈/맥시멈을 찾는 주체는 loss function 또는 cost function이라고 할 수 있겠습니다. 이 Gradient Descent는, Linear Regression(선형 회귀)에서도 사용하고, CNN, RNN, 등 거의 모든 Machine Learning에서 사용하지만, Gradient Descent를 배울 때는 그 복잡도 때문에 항상 Linear Regression에서의 예를 찾는 편입니다. Linear ..
