본 서신에서는 흐름 기반 아키텍처를 사용하여 교사와 학생의 중간 블록 사이에 지식을 전달하는 특징 기반 지식 증류 기법을 제안한다. 특히 본 구현에서는 Normalizing flow를 사용한다. 지식 전달 기법 외에도, 증류 위치의 구성이 지식 전달 성능에 미치는 영향을 살펴본다. 제안한 아이디어를 평가하기 위해, 서로 다른 도메인에서 Normalizing flow에 기반한 두 가지 지식 증류 기준(baseline) 모델을 선택한다. 즉, 이상 탐지에는 CS-Flow, 초해상도에는 SRFlow-DA이다. 일반적으로 사용되는 벤치마크 데이터셋을 활용한 기준 모델들과의 성능 비교는 추론 속도의 향상과 함께 유망한 결과를 보여준다. 또한 이러한 비교에는 제안된 기법에서 증류 위치를 다양한 구성으로 설정한 경우에 대한 성능 분석이 포함된다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.