배경: 최근 기계학습 모델의 예측 결과에 대한 설명가능성(explainability)이 주목받고 있다. 대부분의 고성능 예측 모델은 설명이 불가능한 블랙박스(black box)이다. 인공신경망(artificial neural networks) 역시 블랙박스 모델로 간주된다. 비록 이미지 분류 결과를 어느 정도 설명할 수는 있으나, 표 형태(tabular) 데이터에 대한 분류 및 회귀 결과를 설명하는 데에는 여전히 어려움이 있다. 본 연구에서는 신경망 기반 예측 모델로부터 도출된 개별 예측 결과를 설명하고자 한다. 방법: )/weighted sum. 이러한 관점에 기초하여, 신경망을 통해 흐르는 과정에서 각 입력 값이 출력에 기여하는 정도를 계산할 수 있다. 결과: 제안된 방법을 통해 신경망은 더 이상 블랙박스가 아니다. 제안된 방법은 신경망이 수행한 예측을 효과적으로 설명하며, 은닉층의 깊이와 각 은닉층의 노드 수에 독립적이다. 이는 이러한 해석에 대한 명확한 근거를 제공한다. 제안된 방법은 회귀 및 분류 모델 모두에 적용할 수 있다. 또한 제안된 방법은 Python 라이브러리로 구현되어 사용이 용이하다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.