머신러닝의 종류와 퍼셉트론(Perceptron)의 역사와 예

머신러닝의 종류

1. 지도학습 : 정답이 있는 상태에서 학습

    예: KNN, decision tree, naivebaisys, 규칙기반,  회귀분석, 신경망

 

2. 비지도 학습 : 정답이 없는 상태에서 학습

    예: k-means

 

3. 강화학습 : 보상을 통해서 학습 데이터를 만들며 학습

 

 

 

퍼셉트론 

퍼셉트론: 인간의 뇌세포 중에 하나를 컴퓨터로 구현해본 것

 

1943년에 미국의 신경외과 의사인 워렌 멕컬록에 의해서 발단이 되었고

1957년에 프랑크 로젠 블라트가 퍼셉트론 알고리즘을 고안했다.

 

사람의 뇌의 동작을 전기 스위치의 온/오프로 흉내낼 수 있다는 이론을 증명을 했다.

간단히 말해, 인간의 신경세포 하나를 흉내를 낸 것이다.

 

 

고등학교 생물 시간에 배운 3가지 용어

1. 자극 (stimulus)

2. 반응 (response)

3. 역치 (threshold)

 

 

역치: "특정 자극이 있다면 그 자극이 어느 역치 이상이어야지만 세포가 반응한다"

 

예: 짜게 먹는 사람은 자기가 평소에 먹는 만큼 음식이 짜지 않으면 싱겁다고 느낀다

(역치 이하의 자극 무시)

싱겁게 먹는 사람이 짜게 먹기 싲가하면 오랜시간 지나면 예전에 먹던 싱거운 음식에 만족하지 못한다

(역치가 올라감)

 

 

개체 별 뉴런의 개수

1. 사람         : 850 억개

2. 고양이      : 10억개

3. 쥐            : 7천 5백만개

4. 바퀴벌레   : 몇백만개

5. 하루살이   : 지금 현재까지 나온 최첨단 인공지능의 뉴런수보다 많다. (2017년 기준)

 

 

 

 

퍼셉트론의 역사

1943년에 미국의 신경외과 의사인 워렌 멕컬록에 의해서 발단

1957년에 프랑크 로젠 블라트가 퍼셉트론 알고리즘을 고안

1969년 : 퍼셉트론은 단순 선형분류기에 불과하다.

            왜냐하면 ? XOR 분류도 못한다고 단정을 지음

            침체기에 빠짐 (인공지능의 겨울기)

1970년 중반 : 중요한 논문이 발표 - 역전파 알고리즘(다층 퍼셉트론)

                  당시의 컴퓨터 연산으로는 이 이론을 구현하기가 어려웠음

1986년 : 은닉층을 갖는 다층 퍼셉트론 + 오류역전파학습 알고리즘 구현

오늘날 : 신경망을 통해서 구현하고자 하는 목표? 분류

           붓꽃사진을 보고 붓꽃의 종을 분류한다

 

원래는 위의 액셀 파일처럼 일일이 붓꽃의 길이, 꽃받침의 길이 등등을 적어서 학습시켰지만

사실 아래의 사진처럼 이미지 데이터를 툭 주고 학습하라고 하는 게 훨~~씬 편하다

 

 

 

 

 

단층 퍼셉트론

 

 

이 직선의 기울기 즉, W을 구해서 세모를 분류해내는 것이 핵심이다.

 

 

 

 

 

 

 

교재에서 설명하는 퍼셉트론

입력신호의 연결강도가 가중치인데 가중치의 값이 클수록 강한 신호이다.

입력신호가 뉴런에 보내질 때는 각가의 고유한 가중치가 곱해진다.

 

w1*x1 + w2*x2   <=  임계값(세타)  -----> 0 (신호가 흐르지 않는다)

w1*x1 + w2*x2    >   임계값(세타)  -----> 1 (신호가 흐른다)

 

뉴런에서 보내온 신호의 총합이 정해진 한계(임계값)을 넘어설 때만 1을 출력한다.

 

퍼셉트론은 n개의 2진수가 하나의 뉴런을 통과해서 가중의 합이 0보다 크면 활성화되는 가장 간단한 신경망이다.

 

퍼셉트론을 학습시키는 방법은 간단한데, 보통 목표치를 정해주고 현재 계산한 값이 목표치와 다르면 그만큼의 오차를 다시 퍼셉트론에 반영해서 오차를 줄여나가는 방법이다.