삭제

삭제

삭제

질의-응답 과업 성능을 향상시키기 위해 인공지능 모델을 학습시키는 방법으로서,질의 및 상기 질의에 대해 순위화된 적어도 2개의 문단에 관한 임베딩 정보를 획득하는 단계;문단 재순위화 모듈을 이용하여, 상기 임베딩 정보로부터 문단 재순위화 정보를 결정하는 단계;문장 분류 모듈을 이용하여, 상기 임베딩 정보로부터 문장 분류 정보를 결정하는 단계; 및상기 임베딩 정보, 상기 문단 재순위화 정보 및 상기 문장 분류 정보를 기초로 상기 질의에 대응되는 정답을 결정할 수 있도록 상기 인공지능 모델을 학습시키는 단계를 포함하며,상기 문단 재순위화 정보를 결정하는 단계는,상기 적어도 2개의 문단 각각에 대응되는 적어도 2개의 제1 임베딩 벡터에 대한 풀링(pooling) 연산을 기초로, 상기 적어도 2개의 문단 각각이 상기 정답을 포함할 제1 확률 값을 결정하는 단계; 및상기 적어도 2개의 제1 임베딩 벡터를 병합하여 획득된 제2 임베딩 벡터에서, 기설정된 임계값 미만의 제1 확률 값을 가지는 문단에 대응되는 제1 임베딩 벡터를 제외하여 제3 임베딩 벡터를 결정하는 단계를 포함하고,상기 문장 분류 정보를 결정하는 단계는,상기 적어도 2개의 제1 임베딩 벡터에 대한 풀링 연산을 기초로, 상기 적어도 2개의 문단 각각에 대응되는 적어도 2개의 문장 토큰 임베딩을 결정하는 단계;상기 적어도 2개의 문장 토큰 임베딩 각각이 상기 정답을 포함할 제2 확률 값을 결정하는 단계; 및상기 제1 확률 값, 상기 제2 확률 값 및 풀링 연산을 기초로, 상기 적어도 2개의 문장 토큰 임베딩으로부터 제4 임베딩 벡터를 결정하는 단계를 포함하고,상기 인공지능 모델을 학습시키는 단계는,상기 제3 임베딩 벡터 및 상기 제4 임베딩 벡터를 융합 디코더에 입력하여, 상기 질의에 대응되는 정답을 출력하도록 상기 인공지능 모델을 학습시키는 단계를 포함하는인공지능 모델 학습 방법.

제1 항에 있어서,상기 임베딩 정보를 획득하는 단계는,검색 모델을 이용하여, 다수의 문서로부터 상기 질의에 대해 순위화된 적어도 2개의 문단을 결정하는 단계;상기 질의 및 상기 순위화된 적어도 2개의 문단을 융합 인코더에 입력하여, 상기 적어도 2개의 제1 임베딩 벡터를 결정하는 단계; 및상기 제2 임베딩 벡터를 결정하는 단계를 포함하고,상기 적어도 2개의 제1 임베딩 벡터 각각의 첫 번째 토큰 임베딩은 상기 질의와의 관련성을 내포하는 토큰 임베딩인 것을 특징으로 하는인공지능 모델 학습 방법.

삭제

제1 항에 있어서,상기 인공지능 모델을 학습시키는 단계는,상기 문단 재순위화 정보를 기초로 결정되는 제1 손실함수 및 상기 문장 분류 정보를 기초로 결정되는 제2 손실함수를 최소화하도록, 역전파를 통해 상기 인공지능 모델의 파라미터를 업데이트하는 단계를 포함하는인공지능 모델 학습 방법.

질의-응답 과업 성능을 향상시키기 위해 인공지능 모델을 학습시키는 장치로서,인공지능 모델 학습 프로그램이 저장된 메모리; 및상기 메모리에서 상기 인공지능 모델 학습 프로그램을 로드하여, 상기 인공지능 모델 학습 프로그램을 실행하는 프로세서를 포함하고,상기 프로세서는,질의 및 상기 질의에 대해 순위화된 적어도 2개의 문단에 관한 임베딩 정보를 획득하고,문단 재순위화 모듈을 이용하여, 상기 임베딩 정보로부터 문단 재순위화 정보를 결정하고,문장 분류 모듈을 이용하여, 상기 임베딩 정보로부터 문장 분류 정보를 결정하고,상기 임베딩 정보, 상기 문단 재순위화 정보 및 상기 문장 분류 정보를 기초로 상기 질의에 대응되는 정답을 결정할 수 있도록 상기 인공지능 모델을 학습시키며,상기 프로세서는,상기 적어도 2개의 문단 각각에 대응되는 적어도 2개의 제1 임베딩 벡터에 대한 풀링(pooling) 연산을 기초로, 상기 적어도 2개의 문단 각각이 상기 정답을 포함할 제1 확률 값을 결정하고,상기 적어도 2개의 제1 임베딩 벡터를 병합하여 획득된 제2 임베딩 벡터에서, 기설정된 임계값 미만의 제1 확률 값을 가지는 문단에 대응되는 제1 임베딩 벡터를 제외하여 제3 임베딩 벡터를 결정하고,상기 적어도 2개의 제1 임베딩 벡터에 대한 풀링 연산을 기초로, 상기 적어도 2개의 문단 각각에 대응되는 적어도 2개의 문장 토큰 임베딩을 결정하고,상기 적어도 2개의 문장 토큰 임베딩 각각이 상기 정답을 포함할 제2 확률 값을 결정하고,상기 제1 확률 값, 상기 제2 확률 값 및 풀링 연산을 기초로, 상기 적어도 2개의 문장 토큰 임베딩으로부터 제4 임베딩 벡터를 결정하고,상기 제3 임베딩 벡터 및 상기 제4 임베딩 벡터를 융합 디코더에 입력하여, 상기 질의에 대응되는 정답을 출력하도록 상기 인공지능 모델을 학습시키는장치.

제8 항에 있어서,상기 프로세서는,검색 모델을 이용하여, 다수의 문서로부터 상기 질의에 대해 순위화된 적어도 2개의 문단을 결정하고,상기 질의 및 상기 순위화된 적어도 2개의 문단을 융합 인코더에 입력하여, 상기 적어도 2개의 제1 임베딩 벡터를 결정하고,상기 제2 임베딩 벡터를 결정하고,상기 적어도 2개의 제1 임베딩 벡터 각각의 첫 번째 토큰 임베딩은 상기 질의와의 관련성을 내포하는 토큰 임베딩인 것을 특징으로 하는장치.

삭제

삭제

삭제

삭제

제8 항에 있어서,상기 프로세서는,상기 문단 재순위화 정보를 기초로 결정되는 제1 손실함수 및 상기 문장 분류 정보를 기초로 결정되는 제2 손실함수를 최소화하도록, 역전파를 통해 상기 인공지능 모델의 파라미터를 업데이트하는장치.

컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체로서,상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,질의 및 상기 질의에 대해 순위화된 적어도 2개의 문단에 관한 임베딩 정보를 획득하는 단계;문단 재순위화 모듈을 이용하여, 상기 임베딩 정보로부터 문단 재순위화 정보를 결정하는 단계;문장 분류 모듈을 이용하여, 상기 임베딩 정보로부터 문장 분류 정보를 결정하는 단계; 및상기 임베딩 정보, 상기 문단 재순위화 정보 및 상기 문장 분류 정보를 기초로 상기 질의에 대응되는 정답을 결정할 수 있도록 인공지능 모델을 학습시키는 단계를 포함하며,상기 문단 재순위화 정보를 결정하는 단계는,상기 적어도 2개의 문단 각각에 대응되는 적어도 2개의 제1 임베딩 벡터에 대한 풀링(pooling) 연산을 기초로, 상기 적어도 2개의 문단 각각이 상기 정답을 포함할 제1 확률 값을 결정하는 단계; 및상기 제1 확률 값을 기초로, 상기 적어도 2개의 제1 임베딩 벡터를 병합하여 획득된 제2 임베딩 벡터에서, 기설정된 임계값 미만의 제1 확률 값을 가지는 문단에 대응되는 제1 임베딩 벡터를 제외하여 제3 임베딩 벡터를 결정하는 단계를 포함하고,상기 문장 분류 정보를 결정하는 단계는,상기 적어도 2개의 제1 임베딩 벡터에 대한 풀링 연산을 기초로, 상기 적어도 2개의 문단 각각에 대응되는 적어도 2개의 문장 토큰 임베딩을 결정하는 단계;상기 적어도 2개의 문장 토큰 임베딩 각각이 상기 정답을 포함할 제2 확률 값을 결정하는 단계; 및상기 제1 확률 값, 상기 제2 확률 값 및 풀링 연산을 기초로, 상기 적어도 2개의 문장 토큰 임베딩으로부터 제4 임베딩 벡터를 결정하는 단계를 포함하고,상기 인공지능 모델을 학습시키는 단계는,상기 제3 임베딩 벡터 및 상기 제4 임베딩 벡터를 융합 디코더에 입력하여, 상기 질의에 대응되는 정답을 출력하도록 상기 인공지능 모델을 학습시키는 단계를 포함하는인공지능 모델 학습 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는컴퓨터 판독 가능한 기록매체.

컴퓨터 판독 가능한 기록매체에 저장되어 있는 컴퓨터 프로그램으로서,상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,질의 및 상기 질의에 대해 순위화된 적어도 2개의 문단에 관한 임베딩 정보를 획득하는 단계;문단 재순위화 모듈을 이용하여, 상기 임베딩 정보로부터 문단 재순위화 정보를 결정하는 단계;문장 분류 모듈을 이용하여, 상기 임베딩 정보로부터 문장 분류 정보를 결정하는 단계; 및상기 임베딩 정보, 상기 문단 재순위화 정보 및 상기 문장 분류 정보를 기초로 상기 질의에 대응되는 정답을 결정할 수 있도록 인공지능 모델을 학습시키는 단계를 포함하며,상기 문단 재순위화 정보를 결정하는 단계는,상기 적어도 2개의 문단 각각에 대응되는 적어도 2개의 제1 임베딩 벡터에 대한 풀링(pooling) 연산을 기초로, 상기 적어도 2개의 문단 각각이 상기 정답을 포함할 제1 확률 값을 결정하는 단계; 및상기 제1 확률 값을 기초로, 상기 적어도 2개의 제1 임베딩 벡터를 병합하여 획득된 제2 임베딩 벡터에서, 기설정된 임계값 미만의 제1 확률 값을 가지는 문단에 대응되는 제1 임베딩 벡터를 제외하여 제3 임베딩 벡터를 결정하는 단계를 포함하고,상기 문장 분류 정보를 결정하는 단계는,상기 적어도 2개의 제1 임베딩 벡터에 대한 풀링 연산을 기초로, 상기 적어도 2개의 문단 각각에 대응되는 적어도 2개의 문장 토큰 임베딩을 결정하는 단계;상기 적어도 2개의 문장 토큰 임베딩 각각이 상기 정답을 포함할 제2 확률 값을 결정하는 단계; 및상기 제1 확률 값, 상기 제2 확률 값 및 풀링 연산을 기초로, 상기 적어도 2개의 문장 토큰 임베딩으로부터 제4 임베딩 벡터를 결정하는 단계를 포함하고,상기 인공지능 모델을 학습시키는 단계는,상기 제3 임베딩 벡터 및 상기 제4 임베딩 벡터를 융합 디코더에 입력하여, 상기 질의에 대응되는 정답을 출력하도록 상기 인공지능 모델을 학습시키는 단계를 포함하는인공지능 모델 학습 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는컴퓨터 판독 가능한 기록매체에 저장되어 있는 컴퓨터 프로그램.