앙상블 학습(Ensemble Learning)은 여러 개의 통계모델을 작성하고 그 결과를 결합하여 결과를 도출하는 학습 기법이다. 앙상블 학습 방법에는 투표(voting), 배깅(bagging), 부스팅(boosting) 등이 있으며 다양한 연구 분야에서 앙상블 학습 기법을 활용하고 있다.
본 연구에서는 MNIST 숫자 이미지를 분류하는, 서로 다른 필터 크기를 가진 여러 개의 합성곱 신경망을 작성하고 작성된 각각의 합성곱 신경망 모델의 예측결과들을 다시 신경망 모델의 입력 데이터로 활용하여 이미지를 분류하는 앙상블 학습 모델을 작성하였다.
이 앙상블 학습 모델은 두 단계의 모델링을 거쳐 작성되었다. 첫 번째 모델링은 합성곱 신경망 모델들을 작성하는 것으로, 주어진 모델링 데이터(숫자 이미지)로 필터의 크기가 서로 다른 합성곱 신경망 모델들을 작성하는 것이다. 합성곱 신경망 모델의 필터 크기는 각각 임의의 크기인 3x3, 5x5, 7x7, 11x11, 13x13으로 설정하였고 합성곱 신경망 모델의 마지막 계층의 활성화 함수는 softmax 대신 ReLU를 적용하였다.
두 번째 모델링은 5개의 합성곱 신경망에서 출력된 각각의 출력 신호들을 입력신호로 이미지를 분류하는 신경망 학습이다. 각각의 합성곱 신경망 모델은 마지막 계층에서 10개의 출력신호를 가지므로, 이 신경망 모델은 50개의 입력변수를 받아 이미지를 최종 분류하게 된다.
작성된 앙상블 학습 모델의 정확도 평가는 테스트 데이터를 이용하여 실시하였으며 단일 합성곱 신경망 모델의 예측결과와 비교하여 정확도 향상이 어느 정도 이루어졌는지 확인하였다. 또한, 잡음이 섞인 이미지 데이터로 학습시켰을 때의 이미지 분류 예측 정확도도 비교하였다.