메모리 네트워크 장치 및 이를 이용한 추론 방법
MEMORY NETWORK APPARATUS AND DEDUCING METHOD USING THE SAME
특허 요약
일 실시예에 따른 메모리 네트워크 장치는 임베딩 행렬을 저장하는 임베딩용 메모리부와, 소정의 기준에 따라 선별된 문맥 정보에 대한 내부 표현을 저장하는 임베딩용 캐시부와, 상기 저장된 내부 표현에 소정의 문맥 정보에 대한 내부 표현이 포함되어 있으면 상기 포함되어 있는 내부 표현을 추론용 표현으로 변환하고, 포함되어 있지 않으면 상기 임베딩 행렬로부터 상기 소정의 문맥 정보에 대한 내부 표현을 도출한 뒤 상기 도출된 내부 표현을 추론용 표현으로 변환하는 임베딩용 연산부를 포함한다.
청구항
번호청구항
1

임베딩 행렬을 저장하는 임베딩용 메모리부와,소정의 기준에 따라 선별된 문맥 정보에 대한 내부 표현을 저장하는 임베딩용 캐시부와,상기 저장된 내부 표현에 질문을 포함하는 소정의 문맥 정보에 대한 내부 표현이 포함되어 있으면 상기 포함되어 있는 내부 표현을 추론용 표현으로 변환하고, 상기 저장된 내부 표현에 질문을 포함하는 소정의 문맥 정보에 대한 내부 표현이 포함되어 있지 않으면 상기 임베딩 행렬로부터 상기 소정의 문맥 정보에 대한 내부 표현을 도출한 뒤 상기 도출된 내부 표현을 추론용 표현으로 변환하는 임베딩용 연산부;상기 임베딩용 연산부가 도출한 상기 질문에 대한 추론용 표현을 기초로 상기 질문에 대한 답변을 추론하는 추론 연산부; 및상기 추론에 필요한 메모리를 상기 추론 연산부에게 제공하는 추론 메모리부를 포함하되,상기 임베딩용 메모리부가 상기 임베딩용 연산부에게 제공하는 메모리와 상기 추론 메모리부가 상기 추론 연산부에 제공하는 메모리는 서로 물리적으로 분리되어 있는메모리 네트워크 장치.

2

제 1 항에 있어서,상기 소정의 기준은,상기 임베딩용 연산부에 의해 수행된 상기 변환의 횟수가 상기 소정의 문맥 정보의 종류별로 집계된 것에 기초한 것이거나, 상기 소정의 문맥 정보에서의 단어별 등장 횟수 또는 문장별 등장 횟수에 기초한 것이거나 또는 소정의 문서로부터 획득된 단어별 등장 횟수 또는 문장별 등장 횟수에 기초하여 선별된 것인메모리 네트워크 장치.

3

제 1 항에 있어서,상기 소정의 기준에 따라 선별된 문맥 정보는,어느 하나의 단어 이후에 출현 가능성이 일정 수준 이상이라고 판별된 단어에 대한 문맥 정보 또는 어느 하나의 문장 이후에 출현 가능성이 일정 수준 이상이라고 판별된 문장에 대한 문맥 정보를 포함하는메모리 네트워크 장치.

4

제 1 항에 있어서,상기 도출된 내부 표현은,상기 소정의 문맥 정보에 포함된 단어들의 종류 또는 상기 단어들의 상대적인 위치를 기초로 상기 임베딩 행렬로부터 도출된 것인메모리 네트워크 장치.

5

제 1 항에 있어서,상기 변환은,상기 소정의 문맥 정보에 포함된 단어들의 종류 또는 상기 단어들의 상대적인 위치를 기초로 상기 도출된 내부 표현에 대한 가중치를 도출하는 연산과, 상기 도출된 가중치와 상기 도출된 내부 표현을 곱하는 연산을 포함하는메모리 네트워크 장치.

6

메모리 네트워크 장치가 수행하는 방법으로서,상기 메모리 네트워크 장치의 임베딩용 캐시부에 질문을 포함하는 소정의 문맥 정보에 대한 내부 표현이 포함되어 있는지를 판단하는 단계;상기 임베딩용 캐시부에 저장된 내부 표현에 질문을 포함하는 소정의 문맥 정보에 대한 내부 표현이 포함되어 있으면 상기 포함되어 있는 내부 표현을 추론용 표현으로 변환하고, 상기 저장된 내부 표현에 질문을 포함하는 소정의 문맥 정보에 대한 내부 표현이 포함되어 있지 않으면 상기 메모리 네트워크 장치의 임베딩용 메모리부에 저장된 임베딩 행렬로부터 상기 소정의 문맥 정보에 대한 내부 표현을 도출한 뒤 상기 도출된 내부 표현을 추론용 표현으로 변환하는 단계; 및상기 도출한 상기 질문에 대한 추론용 표현을 기초로 상기 질문에 대한 답변을 상기 메모리 네트워크 장치의 추론 메모리부로부터 메모리를 제공받아 추론하는 단계를 포함하되,상기 임베딩용 메모리부의 메모리와 상기 추론 메모리부의 메모리는 서로 물리적으로 분리되어 있는추론 방법.