슬기로운 혀니의 코딩 생활 슬기로운 혀니의 코딩 생활

※ 딥러닝 활용 분야 ■ 사물 검출 - 이미지 속에 담긴 사물의 위치와 종류(클래스)를 알아내는 기술 - R-CNN을 주로 사용 사물이 위치한 영역을 찾아내고, 추출한 영역에 CNN을 적용하여 클래스를 분류한다. ■ 분할(segmentation) - 이미지를 픽셀 수준에서 분류하는 문제 - 픽셀 단위로 객체마다 채색된 supervised Data를 사용해 학습 - 추론 시 입력 이미지의 모든 픽셀을 분류 - FCN(Fully Convolutional Network) 사용 -> CNN의 완전연결 계층을 같은 기능을 하는 합성곱 계층으로 바꾸어 마지막에 공간 크기를 확대하여 공간 볼륨을 유지한 채 출력을 처리하는 기법 ■ 사진캡션생성 - NIC(Neural Image Caption) 모델을 사용 -> NIC..

※ 딥러닝 고속화 ■ GPU vs CPU GPU : 단일 곱셈-누산 or 큰 행렬의 곱과 같은 대량 병렬 연산에 유리 CPU : 연속적인 복잡한 계산에 유리 im2col을 이용해서 합성곱 계층을 큰 행렬의 곱으로 변환할 수 있었다. 이러한 큰 덩어리를 GPU로 한 번에 계산하여 딥러닝 자체의 속도를 고속화 시키는 것이다. 현재는 NVIDIA의 GPU 컴퓨팅용 통합 개발 환경인 CUDA로 인해 대부분의 딥러닝 프레임워크가 GPU 환경에서 작업을 할 수 있다. ■ 분산 학습 뛰어난 신경망을 만들기 위한 수많은 시행착오 시간을 줄이기 위하여 딥러닝 학습을 수평확장하는 아이디어인 분산 학습을 이용한다. 뛰어난 프레임워크들(ex) Tensorflow)이 대부분 분산 학습을 지원하고 있다. ■ 연산 정밀도와 비트 ..

※ CNN의 정확도 향상 현재 MNIST 데이터셋 대상 accuracy의 순위를 살펴보면 전반적으로 CNN을 사용한 기법들이 상위권을 차지한 것을 알 수 있다. 하지만 주로 합성곱 계층 2개에 완전연결 계층 2개 정도인 신경망으로 구현 되어 있다. MNIST 데이터셋은 손글씨 숫자라는 비교적 단순한 문제이기 때문에 층을 깊게 하지 않아도 충분히 좋은 수준의 결과가 나온다. 이제 데이터를 일반 사물 인식으로 바꾸게 되면 문제가 훨씬 복잡해지기 때문에 층을 깊게 하여 더 높은 정확도를 출력하는 방식을 택하는 것이다. ■ 정확도 개선 기법 1. 앙상블 학습 2. 학습률 감소 3. 데이터 확장 여기서는 데이터 확장에 대해서 한 번 살펴 보자. 데이터 확장(Data Augmentation)은 입력 이미지를 알고리..