| 번호 | 청구항 |
|---|---|
| 9 | 제8항에 있어서, 상기 학생 모델 구축부는상기 증류 손실과 상기 학생 모델에 관한 학생 손실(student loss)을 기초로 전체 손실을 산출하고 상기 전체 손실을 최소화하는 방향으로 상기 지식증류 과정을 반복하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 장치. |
| 8 | 제7항에 있어서, 상기 학생 모델 구축부는상기 제1 확률분포와 상기 제2 확률분포에 관한 쿨백-라이블리 발산((Kullback-Leibler Divergence, KLD)을 상기 지식증류 과정의 증류 손실(distillation loss)로서 산출하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 장치. |
| 1 | 정답(ground truth)에 매칭된 입력(input)을 교사 모델(teacher model)에 제공하고 상기 교사 모델에 의해 생성된 출력을 기초로 상기 입력을 강화하여 강화된 입력(reinforced input)을 생성하는 강화된 입력 생성부; 및상기 교사 모델을 기초로 상기 강화된 입력에 관한 태스크를 수행하는 지식증류(knowledge distillation) 과정을 통해 상기 교사 모델의 지식이 전이된 학생 모델(student model)을 구축하는 학생 모델 구축부;를 포함하는 설명 가능한 근거를 통한 고품질 지식 추출 장치. |
| 2 | 제1항에 있어서, 상기 강화된 입력 생성부는상기 출력과 상기 정답을 비교하여 태스크 손실(task loss)을 산출하고 태스크 손실 함수의 기울기(gradient)를 산출하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 장치. |
| 3 | 제2항에 있어서, 상기 강화된 입력 생성부는상기 입력을 상기 기울기의 음의 방향(negative direction)으로 이동시킴으로써 상기 강화된 입력을 생성하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 장치. |
| 4 | 제2항에 있어서, 상기 강화된 입력 생성부는상기 입력 및 상기 기울기를 기초로 다음의 수학식 1을 통해 상기 강화된 입력을 산출하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 장치.[수학식 1] (여기에서, 는 입력, 은 강화된 입력, 은 원소별 곱셈, 은 변경 정도를 제어하는 하이퍼파라미터이다.) |
| 5 | 제1항에 있어서, 상기 학생 모델 구축부는상기 지식증류 과정에서 상기 교사 모델 및 상기 학생 모델이 동일한 분류 태스크를 수행하도록 하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 장치. |
| 6 | 제5항에 있어서, 상기 학생 모델 구축부는상기 분류 태스크를 위하여 상기 교사 모델에게 상기 강화된 입력을 제공하면서 상기 학생 모델에게 상기 입력을 제공하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 장치. |
| 7 | 제1항에 있어서, 상기 학생 모델 구축부는상기 지식증류 과정에서 상기 교사 모델의 출력에 관한 제1 확률분포와 상기 학생 모델의 출력에 관한 제2 확률분포 간의 차이를 산출하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 장치. |
| 10 | 고품질 지식 추출 장치에서 수행되는 고품질 지식 추출 방법에 있어서,강화된 입력 생성부를 통해, 정답(ground truth)에 매칭된 입력(input)을 교사 모델(teacher model)에 제공하고 상기 교사 모델에 의해 생성된 출력을 기초로 상기 입력을 강화하여 강화된 입력(reinforced input)을 생성하는 단계; 및학생 모델 구축부를 통해, 상기 교사 모델을 기초로 상기 강화된 입력에 관한 태스크를 수행하는 지식증류(knowledge distillation) 과정을 통해 상기 교사 모델의 지식이 전이된 학생 모델(student model)을 구축하는 단계;를 포함하는 설명 가능한 근거를 통한 고품질 지식 추출 방법. |
| 11 | 제10항에 있어서, 상기 강화된 입력을 생성하는 단계는상기 출력과 상기 정답을 비교하여 태스크 손실(task loss)을 산출하고 태스크 손실 함수의 기울기(gradient)를 산출하는 단계를 포함하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 방법. |
| 12 | 제11항에 있어서, 상기 강화된 입력을 생성하는 단계는상기 입력 및 상기 기울기를 기초로 다음의 수학식 2를 통해 상기 강화된 입력을 산출하는 단계를 포함하는 것을 특징으로 하는 설명 가능한 근거를 통한 고품질 지식 추출 방법.[수학식 2] (여기에서, 는 입력, 은 강화된 입력, 은 원소별 곱셈, 은 변경 정도를 제어하는 하이퍼파라미터이다.) |