지식 추출 기법에 따라 학생 모델을 생성하는 학생 모델 생성 장치에 있어서,상기 학생 모델을 생성하는 프로그램을 저장한 메모리; 및상기 프로그램을 실행하는 프로세서를 포함하고,상기 프로그램은, 상기 지식 추출 기법이 적용되는 교사 모델과 상기 학생 모델에 대해 순방향 학습을 진행하는 단계와, 상기 순방향 학습의 결과를 바탕으로 상기 교사 모델과 학생 모델을 갱신하는 역전파 단계를 수행하되, 상기 역전파 단계에서 상기 학생 모델은 소정의 정밀도에 따라 양자화를 수행하도록 학습되고, 상기 교사 모델은 상기 소정의 정밀도에 맞게 적응적으로 변화하도록 학습되는 가변 정밀도에 따라 양자화를 수행하도록 학습되는 것인, 학생 모델 생성 장치.

제1항에 있어서,상기 프로그램은,상기 역전파 단계에서, 상기 학생 모델의 출력과 정답 데이터간의 차이를 나타내는 제 1 손실과 상기 학생 모델의 출력과 상기 교사 모델의 출력간의 차이를 나타내는 제 2 손실이 최소화되도록 상기 교사 모델과 학생 모델을 학습시키는 것인, 학생 모델 생성 장치.

제1항에 있어서,상기 가변 정밀도는 상기 학생 모델의 정밀도에 가변비율이 곱해진 값이고, 상기 가변 비율이 상기 역전파 과정을 통해 갱신되는 것인, 학생 모델 생성 장치.

제1항 또는 제3항에 있어서,상기 역전파 단계에서,입력 값의 범위를 나타내는 값과 상기 가변 정밀도 또는 상기 가변 비율을 기초로 입력 값 구간의 크기가 결정되고,입력 값의 양자화 값을 결정하는 수학식은 상기 입력 값과 상기 가변 정밀도 또는 상기 가변 비율을 변수로 포함하는 상기 입력 값 구간의 크기를 포함하는 것이고,상기 양자화 값은 상기 가변 정밀도 또는 가변 비율에 대한 편미분이 가능한 것이고, 학습 손실에 대한 상기 가변 정밀도 또는 가변 비율에 대한 편미분 산출 결과에 기초하여 상기 교사 모델의 양자화 정밀도가 갱신되는 것인, 학생 모델 생성 장치.

학생 모델 생성 장치가 지식추출 기법에 따라 학생 모델을 생성하는 방법에 있어서,(a) 상기 지식추출 기법이 적용되는 교사 모델과 학생 모델에 대해 순방향 학습을 진행하는 단계 및(b) 상기 순방향 학습의 결과를 바탕으로 상기 교사 모델과 학생 모델을 갱신하는 역전파 단계를 포함하되, 상기 역전파 단계는,상기 학생 모델은 소정의 정밀도에 따라 양자화를 수행하도록 학습되고, 상기 교사 모델은 상기 소정의 정밀도에 맞게 적응적으로 변화하도록 학습되는 가변 정밀도에 따라 양자화를 수행하도록 학습되는 것인, 학생 모델 생성 방법.

제5항에 있어서,상기 (b) 단계는,상기 학생 모델의 출력과 정답 데이터간의 차이를 나타내는 제 1 손실과 상기 학생 모델의 출력과 상기 교사 모델의출력간의 차이를 나타내는 제 2 손실이 최소화되도록 상기 교사 모델과 학생 모델의 학습이 수행되는 것인, 학생 모델 생성 방법.

제5항에 있어서,상기 가변 정밀도는 상기 학생 모델의 정밀도에 가변비율이 곱해진 값이고, 상기 가변 비율이 상기 (b) 단계를 통해 학습되는 것인, 학생 모델 생성 방법.

제5항 또는 제7항에 있어서,상기 역전파 단계에서,입력 값의 범위를 나타내는 값과 상기 가변 정밀도 또는 상기 가변 비율을 기초로 입력 값 구간의 크기가 결정되고,입력 값의 양자화 값을 결정하는 수학식은 상기 입력 값과 상기 가변 정밀도 또는 상기 가변 비율을 변수로 포함하는 상기 입력 값 구간의 크기를 포함하는 것이고,상기 양자화 값은 상기 가변 정밀도 또는 가변 비율에 대한 편미분이 가능한 것이고, 학습 손실에 대한 상기 가변 정밀도 또는 가변 비율에 대한 편미분 산출 결과에 기초하여 상기 교사 모델의 양자화 정밀도가 갱신되는 것인, 학생 모델 생성 방법.

지식 추출 기법에 따라 생성된 학생 모델을 이용하는 정보 처리 장치에 있어서,상기 학생 모델을 이용하는 프로그램을 저장한 메모리; 및상기 프로그램을 실행하는 프로세서를 포함하고,상기 프로그램은, 입력 데이터를 상기 학생 모델에 입력하고, 상기 학생 모델의 추론 결과를 출력하는 것이되,상기 학생 모델은 상기 지식 추출 기법이 적용되는 교사 모델과 상기 학생 모델에 대해 순방향 학습을 진행하는 단계와, 상기 순방향 학습의 결과를 바탕으로 상기 교사 모델과 학생 모델을 갱신하는 역전파 단계를 수행하여 생성된 것이되, 상기 역전파 단계에서 상기 학생 모델은 소정의 정밀도에 따라 양자화를 수행하도록 학습되고, 상기 교사 모델은 상기 소정의 정밀도에 맞게 적응적으로 변화하도록 학습되는 가변 정밀도에 따라 양자화를 수행하도록 학습되는 것인, 정보 처리 장치.

제 5 항 내지 제 7 항 중 어느 한 항에 따르는 학생 모델 생성 방법을 수행하기 위한 컴퓨터 프로그램이 기록된 비일시적 컴퓨터 판독가능 기록매체.