전통적인 표(tabular) 분류기는 해석 가능한 특징(개념)을 통해 설명 가능한 의사결정을 제공한다. 그러나 영상 과제에서 이러한 설명가능성을 활용하는 데에는 이미지의 픽셀 표현 때문에 제한이 있어 왔다. 본 논문에서는 표 분류기의 설명가능성을 활용하기 위해, 개념에 의해 이미지를 분류하는 Img2Tabs를 설계한다. Img2Tabs는 StyleGAN 역추정을 통해 이미지 픽셀을 표 형식의 특징으로 인코딩한다. 생성적 특성으로 인해 결과로 얻어진 모든 특징이 분류에 관련되거나 해석 가능하지는 않으므로, Img2Tab 분류기는 StyleGAN 특징으로부터 분류에 관련된 개념을 자동으로 탐색해야 한다. 따라서 우리는 분류 관련성(class-relevancy)과 해석가능성(interpretability)을 동시에 정량화하기 위해 Wasserstein-1 지표를 사용하는 새로운 알고리즘을 제안한다. 이러한 개념 시각화 방법을 통해, 표 분류기가 추출한 중요 특징이 분류에 관련된 개념인지 여부를 정량적으로 조사한다. 그 결과, StyleGAN 특징으로부터 분류 관련 개념을 자동으로 찾아내는 관점에서 Img2Tabs에 가장 효과적인 분류기를 규명한다. 평가에서 우리는 중요도와 시각화를 통해 개념 기반 설명을 제시한다. Img2Tab은 CNN 분류기 및 딥 특징 학습(deep feature learning) 기준 모델과 동등한 수준의 top-1 정확도를 달성한다. 또한, 정확도를 희생하지 않으면서 데이터 편향으로 인한 잘못된 의사결정을 방지하기 위해 사용자가 Img2Tab 분류기를 대화형으로 디버깅할 수 있음을 보여준다. Img2Tab의 소스 및 데모 코드는 https://github.com/songsnim/Img2Tab_pytorch 에서 제공된다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.