신경망 함수 종류와 시각화 (step func, sigmoid func)

퍼셉트론과 신경망의 차이점

1. 퍼셉트론은 원하는 결과를 출력하도록 사람이 직접 가중치를 정해줘야 한다

2. 신경망은 가중치 매개변수의 적절한 값을 기계가 데이터로부터 학습해서 자동으로 알아낸다

 

 

신경망에 들어가는 함수 

1. 은닉층에 들어가는 함수 (신호를 확률로 내보내는 역할)

  - 계단 함수

  - 시그모이드 함수

  - 렐루 함수

 

2. 출력층에 들어가는 함수 (은닉층에서 보내온 확률을 모아 개인지 고양인지 판별)

  - 항등 함수 (회귀 분석)

  - 소프트맥스 (softmax) 함수 (분류 문제)

 

3. 배치 처리하는 함수

 

 

신경망 안에 은닉층에 들어가는 활성화 함수 3가지

1. 계단 함수 : 출력 신호가 0 또는 1의 값을 출력하는 함수

2. 시그모이드 함수 : 0 ~ 1 사이의 실수를 출력하는 함수

3. 렐루 함수 : 입력이 0을 넘으면 그 입력값을 그대로 출력하고 0 이하면 0을 출력하는 함수

 

 

계단 함수

예제) 보기와 같이 파이썬으로 계단 함수를 만드시오

보기)

답)

계단 함수

설명)

계단 함수는 주로 단층 퍼셉트론에서 주로 사용된다.

 

 

예제) 파이썬으로 계단 함수를 시각화하시오

계단 함수 시각화 코드

 

 

 

시그모이드 함수

계단 함수 (단층 퍼셉트론) vs 시그모이드 함수 (다층 퍼셉트론)

 

차이점: 계단 함수는 숫자 1과 0만 출력하는데, 시그모이드는 0~1의 실수를 출력

 

예: f(가중의 합) = 0.8834

 

공통점: 둘 다 0~1의 데이터만 출력

 

 

 

시그모이드 함수식

 

 

예제) 시그모이드 함수를 파이썬으로 구현하시오

 

예제) 시그모이드 함수를 시각화 하시오

결과)

시그모이드 함수 시각화