합성곱 신경망의 GPU상에서의 효율적인 추론을 위한 Pruning 기법 연구

Abstract

최근 심층 합성곱 신경망은 비약적인 성능 발전으로 인해 많은 인공 지능 분야에 적용돼왔다. 하지만 합성곱 신경망의 우수한 성능은 막대한 연산량과 메 모리 소모량의 결과이며, 프루닝 기법은 합성곱 내부에 희소성을 생성하여 한계 점을 극복하고자 한다. 하지만 프루닝 기법을 통해 생성된 합성곱 층의 불규칙한 희소성은 대규모 병렬성을 이용한 GPU상의 연산 과정에서 속도 향상으로 활용되 기 어려우며, 규칙적인 희소성 또한 제거된 가중치 모양이 온전히 속도 향상으로 나타나지 않는다. 본 논문에서는 GPU 상의 연산 분석을 통하여 생성되는 합성곱 층 내부 희소성이 연산 성능 향상으로 이어질 수 있는 2가지 프루닝 기법을 제 안하고, 실제 심층 신경망에 적용하여 기존의 프루닝 기법에 비해 신경망의 정확 도의 열화가 적으며 추론 속도가 향상됨을 보였다.