6. CNN(5)

※ CNN 시각화 단계

AlexNet을 예로 들면 일반 사물 인식을 수행한 8층 신경망이다.

 

1번째 합성곱 계층 : 에지(색상이 바뀐 경계선), 블롭(국소적으로 덩어리진 영역) 등의 저수준 정보 추출

3번째 합성곱 계층 : 텍스처

5번째 합성곱 계층 : 사물의 일부

8번째 완전연결 계층 : 사물의 클래스 분류(일반 Object)에 뉴런이 반응

 

이렇게 계층이 깊어질수록 추출되는 정보가 더 추상화되며 고급 정보로 변화해 간다. 사물의 '의미'를 이해한 것이다.

 

 

※ LeNet

- CNN의 원조인 네트워크

- 합성곱 계층과 풀링 계층을 사용

- Sigmoid 함수를 사용

- 서브샘플링을 하여 중간 데이터의 크기를 줄이는 방식을 사용

 

※ AlexNet

- 딥러닝 열풍을 불러 일으킨 네트워크

- 합성곱 계층과 풀링 계층을 사용

- ReLU 함수를 사용

- LRN 국소적 정규화를 실시하는 계층을 이용

- overfitting 감소법으로 드롭아웃을 사용(드롭아웃 : 데이터의 복잡성을 대응하기 위해 뉴런을 임의로 삭제해가며 학습)

 

현재는 위 네트워크와 더불어 딥러닝의 어마어마한 계산을 고속으로 처리할 수 있는 병렬 계산에 특화된 GPU가 보급되었고, 빅데이터가 발전되면서 딥러닝이 매우 발전될 수 있었다.