본문 바로가기
AI/밑바닥부터 시작하는 딥러닝

[ Chapter.03 ] 퍼셉트론에서 신경망으로

by jennyf 2022. 7. 28.

신경망은 매개변수의 적절한 값을 데이터로부터 자동으로 학습하는 능력이 가장 중요한 성질이라고 볼 수 있습니다.

 

01. 신경망의 예

신경망은 입력층, 은닉층, 출력층으로 구성됩니다.
각각 1층씩만 있다고 가정하면, 신경망은 총 3층으로 구성됩니다.
하지만 가중치를 갖는 층은 2개뿐이기 때문에 2층 신경망이라고 합니다.

 

 

02. 퍼셉트론 복습

  • b: 편향을 나타내는 매개변수 = 뉴런이 얼마나 쉽게 활성화되느냐를 제어합니다.
  • w1, w2: 각 신호의 가중치를 나타내는 매개변수 = 각 신호의 영향력을 제어합니다.

 

아래는 퍼셉트론의 동작입니다.

 

입력 신호의 총합이 h(x)라는 함수를 거쳐 변환되어, 그 변환된 값이 y의 출력이 됨을 보여줍니다.

 

 

 

03. 활성화 함수의 등장

 

방금 위에서 설명한 h(x) 함수를 살펴보겠습니다.

이처럼 입력 신호의 총합을 출력 신호로 변환하는 함수를 활성화 함수라 합니다. 

 

활성화 함수는 입력 신호의 총합이 활성화를 일으키는지를 정하는 역할을 합니다. 

 

 

1. 가중치가 곱해진 입력 신호의 총 합을 계산하고 = a 

2. 그 합을 활성화 함수에 입력해( h() ) 결과를 내는 2 단계로 처리됩니다. = y 

 

'AI > 밑바닥부터 시작하는 딥러닝' 카테고리의 다른 글

[ Chapter.04 ] 수치 미분  (0) 2022.08.01
[ Chapter.04 ] 손실 함수  (0) 2022.07.31
[ Chapter.04 ] 신경망 학습  (0) 2022.07.28
[ Chapter.03 ] 손글씨 숫자 인식  (0) 2022.07.27
[ Chapter.02 ] 퍼셉트론  (0) 2022.06.28