iOS 개발 기록 블로그

시그모이드 함수 시그모이드 함수의 식이 왜 아래와 같을까 통계학에서 성공할 확률이 실패할 확률보다 얼마나 큰지를 나타내는 오즈비율이라는 값이 있다. 오즈 비율 = (성공 확률) / (실패 확률) 성공할 확률 P를 0~1 사이의 값으로 나타내면 실패할 확률은 1-P이다 위의 그래프에서 P(성공할 확률) 가 1에 가까우면 오즈비율 (성공할 확률이 실패할 확률보다 얼마나 큰지) 값이 급격히 커져버리는 현상이 발생한다. 급격히 커져버리는 현상을 방지하기 위해서 이 함수에 로그를 취한게 logit 함수이다. 그래프는 아래와 같다 P가 0.5 일 때 실패할 확률 대비 성공할 확률이 0이 된다 P = 0.5 일 때는, 0이 되고 P = 1 일 때는, 무한히 큰 양수, P = 0 일 때는, 무한히 큰 음수를 가지는 특..

퍼셉트론과 신경망의 차이점 1. 퍼셉트론은 원하는 결과를 출력하도록 사람이 직접 가중치를 정해줘야 한다 2. 신경망은 가중치 매개변수의 적절한 값을 기계가 데이터로부터 학습해서 자동으로 알아낸다 신경망에 들어가는 함수 1. 은닉층에 들어가는 함수 (신호를 확률로 내보내는 역할) - 계단 함수 - 시그모이드 함수 - 렐루 함수 2. 출력층에 들어가는 함수 (은닉층에서 보내온 확률을 모아 개인지 고양인지 판별) - 항등 함수 (회귀 분석) - 소프트맥스 (softmax) 함수 (분류 문제) 3. 배치 처리하는 함수 신경망 안에 은닉층에 들어가는 활성화 함수 3가지 1. 계단 함수 : 출력 신호가 0 또는 1의 값을 출력하는 함수 2. 시그모이드 함수 : 0 ~ 1 사이의 실수를 출력하는 함수 3. 렐루 함수..