backpropagation 구현하기

backpropagation 구현하기

2019, Jun 29    
  • 출처 : 밑바닥부터 시작하는 딥러닝
  • 이번 글에서는 backpropagation을 numpy를 통하여 implementation 해보겠습니다.
  • 이 글은 backpropagation에 대한 개념을 알고 있다는 가정 하에서 시작하겠습니다.


각 블럭 구현하기

  • 먼저 backpropagation에 필요한 각 block을 구현해 보도록 하겠습니다.
  • 필요한 블럭은 곱셈, 덧셈, ReLU, Sigmoid, Affine, Softmax, Loss 등이 있습니다.

곱셈 계층 구현하기

  • cs230 Convolutional Neural Network 한글

덧셈 계층 구현하기

ReLU 계층 구현하기

Sigmoid 계층 구현하기

Affine 계층 구현하기

배치용 Affine 계층 구현하기

Softmax with Loss 계층 구현하기

오차역전파 최종 구현