최근 하드웨어 기술의 발전으로 딥러닝 기술이 컴퓨터 비전을 비롯한 다양한 분야에서 활발하게 활용되고 있다. 특히 컴퓨터 비전 분야에서는 높은 성능을 위해 CNN을 사용하는데, 더 많은 컨볼루션 계층을 구성할수록 성능이 향상된다. 그러나 많은 메모리와 연산 자원을 소모하기 때문에 임베디드 환경에서 적용하기 어렵다. 이를 해결하기 위한 방법 중 하나로 32비트 부동소수점 데이터를 더 낮은 비트의 정수 데이터로 변환하는 양자화 기법이 있다. 양자화 기법 중 스케일 인자를 2의 거듭제곱으로 나타내는 등의 방법을 적용하여 하드웨어 친화적으로 양자화를 진행하는 방법이 존재하는데, 이러한 방법은 양자화 인식 훈련을 진행하기 전 배치 정규화 계층 융합을 진행하기 때문에 재훈련 과정에서 배치 정규화 계층의 이점을 받을 수 없다. 본 논문에서는 배치 정규화 계층의 융합 방식을 변형하여, 양자화 인식 훈련 중에도 배치 정규화 계층의 장점을 유지할 수 있는 하드웨어 친화적인 양자화 인식 훈련 기법을 제안한다. 제안된 방법을 YOLOv7-tiny 객체 탐지 모델에 적용하여 성능을 검증한 결과, 기존 방법에 비해 mAP(0.5)에서 최대 1.5%p의 성능 향상을 확인하였다. 또한, 양자화 인식 훈련을 마친 모델을 정수 연산만을 사용하는 네트워크로 변환한 모델에서도 성능을 검증한 결과, mAP(0.5)에서 최대 2.5%p의 성능 향상을 보였다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.