10주차 - 오경선 교수님 - 퍼셉트론, 오차 역전파, 딥러닝 실습한 것

1. 퍼셉트론 

2. 오차역전파 

   1) 새로 알게된 내용 - 기울기 소실 관련 활성화 함수 / ReLU함수 많이 씀.

    : 시그모이드 함수의 단점이 시그모이드를 쓰는 여러개의 은닉층에서

   전달전달되다가 기울기가 소실되는 문제가 발생해서 대안으로

   요즘은 여러가지 활성화 함수를 쓴다고 한다.

   그중 ReLU함수가 자주 쓰인다고 한다.

   (0보다 작으면 무조건 0, 0보다 크면 X값을 그대로 쓴다.

    그래서 미분값이 1이 되어서 여러개의 은닉층을 거치면서 

    맨 처음층까지 소실이 일어나지 않는다.)

    소프트 맥스는 분류용 

  2) 새로 알게된 내용2- 고급 경사하강법 / Adam 가장 많이 쓴다.

  3) 결국 wx+b 에서 w와 b를 또는 ax + b에서 a와 b를 찾는 과정이다.

3. 딥러닝 실습

  1) ⓐ 모델 생성 Sequential() 

     ⓑ 입력층, 은닉층, 출력층을 만들기 Dense()

     ⓒ 모델 컴파일하기 compile()

     ⓓ 모델 실행하기 fit()

     ⓔ 모델 평가하기 - evaluate()

  

  2) 실습

https://colab.research.google.com/drive/18p3N1Qu56W4l90ZDJzR3dOjV132a8EPS?usp=sharing