�ݺ�ߣ

Editor's Notes

1. 안녕하세요. 저는 오늘 Tensorflow 2.0 Tutorial, CNN 이라는 주제로 발표를 맡은 엔씨소프트의 김환희라고 합니다.
2. 목차는 다음과 같습니다. 먼저 CNN 에 대해 아시는 분도 많겠지만 복습 차원에서 중요한 점들을 같이 살펴보고, Tensorflow 2.0 에서 CNN 을 사용하는 간단한 방법을 아주 짧게 살펴본 다음에, Google Colab 으로 준비한 샘플 코드와 함께 MNIST 데이터 셋을 classification 하는 예제를 다양하게 살펴보도록 하겠습니다.
3. 먼저 CNN 소개입니다.
4. CNN 은 현재 딥러닝이 가장 잘하고 있는 분야 중 하나입니다. CNN 의 발전을 이끈 계기 중 하나로 1400 만 장의 이미지를 올바른 카테고리로 분류하는 ImageNet 대회가 있습니다. 이 대회에서 2012 년 AlexNet, 2014 년 GoogLeNet, 2015 년 ResNet 등 CNN의 많은 혁신이 있었습니다. 2015 년에 인간보다 좋은 퍼포먼스를 보였고, 2017 년 이후로는 이 문제를 푸는 데에 어느 정도 한계에 도달했다고 판단했는지 대회가 더 이상 열리지 않고 있습니다.
5. CNN 은 Convolutional Neural Network 의 준말입니다. 네이버의 IT 용어 사전에는 각각의 픽셀을 본래 픽셀과 그 주변 픽셀의 조합으로 대체하는 동작이라고 나와 있습니다.
6. 간단히 생각하면 포토샵의 필터 같은 것이라고 할 수 있습니다. 그림의 Convolutional Layer 를 보시면 기존 이미지가 다른 색과 명도로 변환된 것을 보실 수 있습니다. Convolutional Neural Network 는 크게 Convolutional Layer 와 Dense Layer 로 구분할 수 있는데, 이 둘은 각각 Feature Extractor 와 Classifier 의 역할을 합니다. Classifier 는 말 그대로 어떤 정보를 특정 카테고리로 분류하는 역할을 합니다. 사진을 보고 이것이 동물인지 건축물인지 분류하는 것입니다. 그럼 Feature Extractor 는 무엇인지에 대해서 좀 더 자세히 설명드리겠습니다.
7. 먼저 Convolution 연산은 원본 이미지에 일정 크기의 필터를 합성해서 더한 값으로 새로운 이미지를 생성하는 것입니다.
8. 이미지로 예시를 들어보면 가운데에 있는 4개의 필터를 왼쪽 이미지에 씌우면 오른쪽과 같이 변환이 됩니다.
9. 이렇게 변환된 결과 이미지에서 Feature 라고 불리는 것을 얻을 수 있습니다. Feature 는 이미지의 외곽선이나 코너 같은 이미지의 특징을 말합니다. 이런 특징을 검출하면 전통적인 vision 연구의 주제인 사물 감지, 사물 인식, 노이즈 제거 등의 문제를 풀 수 있습니다.
10. 그리고 이미지 뿐만 아니라 오디오 등 다른 분야에서도 feature 를 추출하는 다양한 방법이 개발되어 왔습니다. 하지만 이 방법들을 적용하기 위해서는 전문적인 지식이 필요하고, 수행에 시간이 오래 걸리며 다른 도메인에 일반화하기 힘들다는 단점이 있었습니다.
11. 그런데 CNN 을 비롯한 신경망은 Feature 를 자동으로 추출합니다. 이 이미지는 구글넷에서 각 뉴런의 활성화된 정도를 보여줍니다. 학습 과정이 지속되면 각 뉴런은 특정 패턴을 잘 검출할 수 있도록 바뀌게 됩니다.
12. Feature Extraction 은 CNN 을 포함한 신경망 네트워크의 특징입니다. CNN 은 보통 여러 층을 쌓아올리는데 이때 각 층별로 추출되는 feature 의 특징이 달라집니다. 이미지에 가까운 low-level layer 는 이미지의 큰 부분을 추출하는 경향이 있고, high-level layer 는 세밀한 부분에 집중하는 경향이 있습니다.
13. 이 그림에서는 각 레이어와 그 레이어에 가장 잘 활성화되는 이미지의 부분을 표시한 것입니다. Layer 1과 Layer 2 에서는 모서리, 원형 같은 이미지의 추상적인 특징을 잡아냅니다.
14. Layer 5 에서는 사람의 얼굴, 개와 부엉이의 얼굴, 자전거의 바퀴 등을 잡아냅니다. Layer 1 에서 Layer 5 로 갈수록 점점 사람이 알아보기 쉬운 세밀한 부분을 잘 잡아내는 것을 확인할 수 있습니다.
15. 일반적인 CNN 의 구조는 Convolution Layer 와 Pooling Layer 가 초반에 배치되어 Feature Extraction 을 한 다음, 마지막 단의 Dense Layer 에서 올바른 라벨에 대한 Classification 을 하는 구조입니다.
16. 그럼 각 레이어를 하나씩 살펴보겠습니다. 먼저 Convolution Layer, 줄여서 Conv Layer 는 보통 2D 이미지를 받아서 출력 이미지를 반환하는 역할을 합니다. 그 과정에서 데이터의 feature 를 자동 추출하는데, 이 filter 는 이미지의 모든 영역에 대해서 convolution 을 계산하기 때문에 파라미터 수는 많지 않은 편입니다.
17. Pooling Layer 는 이미지의 크기를 줄이면서 중요한 정보만 남기는 역할을 합니다. Max Pooling 은 사각형의 영역 중에 Max 값만 남기게 되고, Average Pooling 은 평균값을 남기게 됩니다.
18. Flat Layer 는 Conv 나 Pool 의 출력을 1차원으로 길게 나열해주는 역할을 합니다. 입방체로 표시된 것처럼 데이터의 차원이 3차원이기 때문에 이것을 1차원으로 바꿔줍니다.
19. Dense Layer 는 일반적으로 가장 많이 쓰이는 기본적인 Layer 입니다. 모든 뉴런에 1대 1로 대응하기 때문에 뉴런이 많아질수록 파라미터 수가 급증합니다.
20. Dropout Layer 는 학습 과정에서 랜덤하게 일정 뉴런을 off 해주는 역할을 합니다. Dense Layer 는 모든 뉴런이 서로 연결되어 있기 때문에 뉴런 사이에 상호 의존성이 높습니다. 상호 의존성이 높으면 서로의 값에 영향이 커지기 때문에, 서로 비슷한 결과값을 가지게 되어 오버피팅이 발생합니다. 이를 막기 위해서 학습 과정에서만 랜덤하게 뉴런을 꺼주고, 실제로 결과를 테스트할 때에는 모든 뉴런을 켜줍니다.
21. CNN 에서 퍼포먼스를 높이기 위해서는 여러 가지 방법이 있겠습니다만, 오늘은 2가지에 초점을 맞춰보려 합니다.
22. 첫번째는 Convolution Layer 를 더 많이 쌓는 것입니다. 1998 년의 LeNet 이 5개 Layer 를 쌓은 이후, Layer 수는 점점 많아졌습니다.
23. 그리고 깊이가 깊어질수록 퍼포먼스는 좋아졌습니다. 이제는 랜덤한 네트워크 구조 생성 등 다른 방법들도 개발되고 있지만, 현재까지 컨볼루션 레이어를 쌓을수록 성능이 증가한다는 점은 계속 증명되어 왔습니다. 하지만 너무 많은 컨볼루션 레이어를 사용하면 학습 속도가 느려질 것이고 오버 피팅이 발생할 위험도 있습니다.
24. 그리고 Train date 의 편향을 보완하기 위해서, 데이터에 랜덤한 변형을 가하는 방법이 있습니다. 이미지에 이런 변형을 가해서 숫자를 늘리는 것을 Image Augmentation 이라고 합니다. 이렇게 되면 다양한 Train data 를 많이 가지고 있는 듯한 효과를 얻을 수 있습니다. 다만 이렇게 되면 데이터의 수 자체가 많아지기 때문에 역시 학습 속도가 느려지는 결과를 낳습니다.
25. 그럼 Tensorflow 2.0 에서 CNN 을 쓰는 방법을 간략하게 알아보겠습니다. 자세한 내용은 뒤의 Sample Code 에서 다룰 예정이기 때문에, 여기서는 Convolution Layer API 에 대한 설명만 간략히 드리겠습니다.
26. Tensorflow 2.0 에서 API 를 간략하게 만들고 통합했기 때문에, tf.keras.layers 에서 Conv2D Layer 를 간단하게 불러올 수 있습니다. Conv2D 레이어는 2D 이미지를 Input 으로 받는데, 이미지는 RGB 라는 3개의 컬러 채널로 구성되어 있기 때문에 이미지는 3차원 데이터라고 말할 수 있습니다. 그리고 실제 학습에서 한 장의 이미지만 학습하지 않고 여러 장의 이미지를 학습할 것이기 때문에, 실제 input data 는 4차원이 됩니다.
27. 여기에 Conv Layer 를 불러오는 예제 코드가 있습니다. 여기에 있는 주요 매개 변수에 대해서 설명을 드리겠습니다.
28. 먼저 kernel_size 는 Filter 가 한 step 마다 계산하는 영역의 크기입니다. 이 그림에서 아래쪽의 파란색이 인풋 이미지이고 초록색이 아웃풋 이미지일 때, 왼쪽은 kernel_size 가 3 by 3 영역이고, 오른쪽은 4 by 4 입니다.
29. strides 는 필터가 한 스텝마다 이동하는 크기입니다. Stride 가 커지면 출력 이미지가 작아집니다. 오른쪽은 strides 가 1 by 1 이었다면 3 by 3 의 출력 이미지가 되었어야 하겠지만, strides 가 2 by 2 이기 때문에 계산 결과 출력도 2 by 2 의 이미지가 되었습니다.
30. Padding 은 헷갈리기 쉬운 개념입니다. 일단 여기서는 두 가지의 옵션을 제공하는데, valid 는 filter window 가 인풋 이미지 안에서만 움직이도록 하는 것입니다. 따라서 남는 공간은 버려지게 됩니다. Same 은 인풋과 아웃풋 이미지의 크기가 같아지도록 인풋 이미지 주변에 임의의 값을 넣어서 조절하는 것입니다. 여기서 임의의 값을 0으로 넣으면 zero padding 이 됩니다.
31. Filters 는 Conv Layer 를 구성하는 filter 의 수입니다. 이 숫자는 네트워크가 얼마나 많은 feature 를 추출할 수 있는지를 결정하기 때문에 많을수록 좋지만, 너무 많을 경우 학습 속도가 느려질 수 있고 오버 피팅이 발생할 수도 있습니다.
32. 보시는 것처럼 많은 필터를 가지고 있다는 것은 다양한 feature 를 추출할 수 있다는 뜻이 됩니다. 하단의 이미지에서 오른쪽 필터를 거치면 왼쪽과 같은 feature 가 추출됩니다.
33. 그럼 이제 실제 샘플 코드와 함께 Tensorflow 2.0 에서 CNN 을 사용하는 방법을 간단히 학습해보도록 하겠습니다.
34. 딥러닝을 배울 때 가장 처음 다루게 되는 데이터 중 하나는 MNIST 입니다. MNIST 는 얀 르쿤이 1998 년에 발표한 논문 이후 머신러닝의 벤치마크 중 하나로 활용되었습니다. 70,000 장의 데이터로 간단하게 CNN 을 해볼 수 있고, 네트워크 구조나 하이퍼파라미터를 바꿀 때 퍼포먼스가 어떻게 변하는지 빠르게 알 수 있습니다.
35. MNIST 의 주요 퍼포먼스 리스트를 보면, 다른 방법들을 물리치고 CNN 이 상위에 위치해 있는 것을 볼 수 있습니다. 정확도 99% 이상으로 10 개의 라벨을 예측합니다.
36. 이 예제는 Tensorflow 홈페이지의 초심자 대상 colab 을 기반으로 많은 부분이 수정되었습니다.
37. 그럼 예제를 열어서 실행해보도록 하겠습니다.