설명가능한 인공지능 또는 해석 가능한 기계학습에서 특성 중요도와 상호작용은 주요 쟁점 중 하나이다. 특성 중요도와 상호작용을 측정하기 위해 H-통계량 및 부분의존성(partial dependency)과 같은 여러 방법들이 제안되어 왔다. 그러나 중요도와 상호작용의 실질적 함의를 이해하기는 어렵다. 본 논문에서는 특성 중요도와 상호작용을 측정하기 위한 새로운 방법을 제안한다. 분류 모델의 경우, 예측 모델에서 올바르게 예측된 사례를 관찰하고 그 사례들의 특성에 따라 군집화하였다. 군집 정보로부터 특성 중요도와 상호작용을 도출하는 방법을 제안하였다. 회귀 모델의 경우, 예측 오차의 크기 변화에 따라 사례들을 군집화하였다. 제안된 방법은 특성 중요도와 상호작용에 대해 동일한 타당한 근거를 제공한다. 또한 특성 중요도를 특성의 파워(feature power)와 특성 상호작용(feature interactions)으로 분해하는 것을 지원한다. 제안된 방법을 구현하기 위해 특성 상호작용 그래프를 포함한 세 가지 시각화 도구가 구현되었다. 제안된 연구를 통해 예측 모델의 작동 메커니즘을 보다 잘 이해할 수 있다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.