09-2. 딥네트워크 학습 시키기 (Backpropagation)

이 포스트는 모두를 위한 딥러닝 - Tensor Flow를 정리한 내용을 담았습니다. 누구나 이해할 수 있는 수준으로 설명하고자 하였으며 LAB의 코드는 TF2.0에 맞추어 재작성되었습니다. 이번 포스트는 저번 포스트에 이어 딥네트워크를 학습하는 방법인 Backpropagation(역전파)에 대해 알아보겠습니다. 먼저 저번 포스트에서 XOR 문제를 딥러닝으로 풀 때 아래와 같이 W와 b가 미리 적절한 값으로 정해져 있었습니다. 그렇다면 이 W와 b는 어떤 알고리즘을 통해 정해졌을까요? 정답은 Backpropagation, 역전파 알고리즘입니다. Backpropagation 알고리즘을 살펴보기 전에, 편미분과 합성함수의 미분법인 chain rule(연쇄 법칙)에 대해 짚고 넘어가겠습니다. 왜 미분일까요? ..

2020.05.21